Vitalik Buterin xác định một kỹ năng mà con người vẫn giữ lợi thế so với AI

Vitalik Buterin chỉ ra một giới hạn của AI: mặc dù có kiến thức rộng rãi, nó gặp khó khăn trong việc đánh giá độ sâu của một văn bản, đặc biệt là khi nó lần đầu tiên tiếp xúc. Đối với đồng sáng lập Ethereum, sự khác biệt giữa kiến thức và trí tuệ đáng được chú ý.

Tóm tắt

• Vào ngày 29 tháng 10, Vitalik Buterin mô tả AI là "cực kỳ thông thái", nhưng "không rất khôn ngoan", đặc biệt là khi đánh giá một văn bản.
• Theo ông, các mô hình gặp nhiều khó khăn hơn khi đối mặt với một văn bản mới, không có các bình luận của con người trong dữ liệu huấn luyện của chúng.
• Cuối cùng, ông nhấn mạnh một sự khác biệt thiết yếu: chúng ta có thể dễ dàng kiểm tra kiến thức của một mô hình, nhưng rất khó để đo lường trí tuệ của nó.

AI biết các tham chiếu, nhưng có hiểu các ý tưởng không?

Vitalik Buterin thường bày tỏ sự hoài nghi về các tác nhân AI, như vào tháng 10 với "chế độ hoang tưởng" của mình. Vào ngày 29 tháng 10 lúc 4 giờ 11 UTC, ông đã công bố một suy nghĩ mới để đáp lại nhà văn Ruxandra Teslo.

Cuộc thảo luận diễn ra sau một bài viết của Wall Street Journal về Humanities 10, một khóa học năm nhất tại Harvard cấm sinh viên sử dụng điện thoại và máy tính trong một năm.

Trong thông điệp của mình trên X, Vitalik giải thích rằng AI có thể huy động kiến thức về hầu như bất kỳ chủ đề nào, nhưng không nhất thiết phải thể hiện một phán đoán sâu sắc. Nó có nguy cơ dừng lại ở những khía cạnh nông cạn nhất của một văn bản, mà không nắm bắt đầy đủ ý nghĩa của lập luận của nó.

Nhận xét này diễn ra trong một cuộc tranh luận về chất lượng của các cuộc trao đổi với các chatbot. Một số người coi chúng là những người đối thoại tốt hơn so với hầu hết con người khi thảo luận về các tác phẩm kinh điển. Ngược lại, một nhà văn cho rằng các bình luận của chúng về các bài tiểu luận của cô thường chỉ là những câu trả lời trống rỗng.

Đọc lần đầu

Đối với Vitalik Buterin, giới hạn này xuất hiện chủ yếu khi mô hình lần đầu tiên khám phá một văn bản. Thực tế, một tác phẩm nổi tiếng được hưởng lợi từ hàng thập kỷ phê bình, phân tích và bình luận mà AI có thể tìm thấy trong dữ liệu huấn luyện của nó. Một bài tiểu luận gần đây, ngược lại, không có cùng lịch sử.

Mô hình do đó phải dựa nhiều hơn vào chính văn bản, mà không thể huy động nhiều phân tích trước đó. Sự khác biệt này đặc biệt quan trọng trong lĩnh vực tiền điện tử, nơi các nhóm sử dụng các tác nhân AI để xem xét các tài liệu trắng, các cuộc kiểm toán hoặc các đề xuất quản trị.

Tuy nhiên, một số nhà phát triển đã cảnh báo về những lỗ hổng mà AI có thể khai thác mà không hiểu đầy đủ các hệ quả của chúng. Trong những điều kiện này, các tóm tắt được sản xuất bởi một mô hình không nên thay thế việc kiểm tra của con người, đặc biệt khi các vấn đề kỹ thuật hoặc tài chính quan trọng.

Trí tuệ, một phẩm chất khó đo lường

Cuối cùng, Vitalik Buterin nêu ra một vấn đề tinh vi hơn: kiến thức của một mô hình có thể được kiểm tra khá dễ dàng, trái ngược với trí tuệ của nó. Chúng ta có thể kiểm tra một ngày, một tham chiếu hoặc một con số. Ngược lại, đánh giá tính hợp lý của một lập luận đòi hỏi nhiều hơn một kiểm tra thực tế đơn giản.

Một sự kiện vào tháng 7 minh họa sự phân biệt này. Một cuộc thi được tổ chức xung quanh việc xác định tác giả của một tài liệu Ethereum ẩn danh đã thưởng cho đội của Franklyn Wang, từ Co-Invest, vào ngày 6 tháng 7. Sau khi xem xét 27 văn bản, đội này đã đạt được một kết quả liên quan đến xác suất khoảng 20%.

Kinh nghiệm này nhắc nhở rằng trí tuệ nhân tạo có thể nhận ra các đặc điểm phong cách mà không nhất thiết phải nắm bắt các ý tưởng ẩn sau một văn bản. Cùng một sự thận trọng cần thiết khi nó phân tích mã hoặc các tài liệu kỹ thuật: xác định các mẫu không có nghĩa là luôn hiểu được ý định của tác giả của chúng.