ویتالیك بوترین یک مهارت را شناسایی می‌کند که در آن انسان بر هوش مصنوعی برتری دارد

ویتالیك بوترین به محدودیت‌های هوش مصنوعی اشاره می‌کند: با وجود دانش گسترده‌اش، این سیستم‌ها در ارزیابی عمق یک متن، به‌ویژه زمانی که برای اولین بار با آن مواجه می‌شوند، دچار مشکل هستند. برای هم‌بنیان‌گذار اتریوم، این تفاوت بین دانش و حکمت نیاز به توجه ویژه‌ای دارد.

به‌طور خلاصه

• در تاریخ 29 اکتبر، ویتالیك بوترین هوش مصنوعی را به‌عنوان "بسیار دانا" توصیف کرد، اما "خیلی حکیم" نیست، به‌ویژه زمانی که به ارزیابی یک متن می‌پردازد.
• به گفته او، مدل‌ها در مواجهه با متون جدید که از نظرات انسانی در داده‌های آموزشی خود بهره‌مند نیستند، با مشکلات بیشتری روبرو می‌شوند.
• او در نهایت به یک تفاوت اساسی اشاره می‌کند: می‌توان به راحتی دانش یک مدل را بررسی کرد، اما اندازه‌گیری حکمت آن بسیار دشوارتر است.

آیا هوش مصنوعی به ارجاعات آگاه است، اما آیا ایده‌ها را درک می‌کند؟

ویتالیك بوترین به‌طور مرتب نگرانی‌های خود را درباره‌ی عوامل هوش مصنوعی ابراز می‌کند، مانند "حالت پارانوئید" خود در اکتبر. در تاریخ 29 اکتبر ساعت 4:11 UTC، او یک تفکر جدید را در پاسخ به نویسنده روكساندرا تسلو منتشر کرد.

این بحث به مقاله‌ای از وال استریت ژورنال درباره‌ی Humanities 10، یک دوره سال اول در هاروارد که به دانشجویان اجازه نمی‌دهد به مدت یک سال از تلفن‌ها و کامپیوترها استفاده کنند، مربوط می‌شود.

در پیام خود در X، ویتالیك توضیح می‌دهد که هوش مصنوعی می‌تواند دانش‌هایی درباره تقریباً هر موضوعی را به کار گیرد، اما در عین حال از قضاوت عمیق برخوردار نیست. بنابراین، ممکن است به جنبه‌های سطحی یک متن بسنده کند و نتواند به‌طور کامل دامنه استدلال آن را درک کند.

این نکته در بحثی درباره کیفیت تبادل با چت‌بات‌ها مطرح می‌شود. برخی آن‌ها را به‌عنوان گفتگوکنندگان بهتری نسبت به اکثر انسان‌ها برای بحث درباره‌ی کلاسیک‌های بزرگ می‌دانند. برعکس، یک نویسنده معتقد است که نظرات آن‌ها درباره‌ی مقالاتش اغلب به پاسخ‌های توخالی خلاصه می‌شود.

خوانش اول

برای ویتالیك بوترین، این محدودیت به‌ویژه زمانی نمایان می‌شود که مدل برای اولین بار با یک متن آشنا می‌شود. در واقع، یک اثر مشهور از دهه‌ها نقد، تحلیل و نظراتی بهره‌مند است که هوش مصنوعی می‌تواند آن‌ها را در داده‌های آموزشی خود پیدا کند. اما یک مقاله جدید از این تاریخچه برخوردار نیست.

بنابراین، مدل باید بیشتر به متن خود تکیه کند و نمی‌تواند به اندازه کافی از تحلیل‌های پیشین استفاده کند. این تفاوت به‌ویژه در حوزه‌ی کریپتو اهمیت دارد، جایی که تیم‌ها از عوامل هوش مصنوعی برای بررسی وایت‌پیپرها، حسابرسی‌ها یا پیشنهادات حکومتی استفاده می‌کنند.

با این حال، برخی توسعه‌دهندگان از نقص‌هایی که هوش مصنوعی ممکن است بدون درک کامل پیامدهای آن‌ها بهره‌برداری کند، هشدار می‌دهند. در این شرایط، خلاصه‌هایی که توسط یک مدل تولید می‌شود نباید جایگزین بررسی انسانی شود، به‌ویژه زمانی که مسائل فنی یا مالی اهمیت دارند.

حکمت، کیفیتی دشوار برای اندازه‌گیری

ویتالیك بوترین در نهایت یک مشکل ظریف‌تر را مطرح می‌کند: دانش یک مدل به راحتی قابل بررسی است، برعکس حکمت آن. می‌توان یک تاریخ، یک ارجاع یا یک عدد را کنترل کرد. اما قضاوت درباره‌ی مرتبط بودن یک استدلال نیاز به چیزی بیشتر از یک بررسی ساده‌ی واقعی دارد.

یک رویداد در ماه ژوئیه این تمایز را نشان می‌دهد. یک مسابقه‌ای که حول شناسایی نویسنده یک سند ناشناس اتریوم برگزار شد، در تاریخ 6 ژوئیه، تیم فرانکلین وانگ از Co-Invest را مورد تقدیر قرار داد. پس از بررسی 27 متن، این تیم نتیجه‌ای به‌دست آورد که با احتمال حدود 20 درصد مرتبط بود.

این تجربه یادآور این است که هوش مصنوعی می‌تواند ویژگی‌های سبک‌شناختی را شناسایی کند بدون اینکه لزوماً ایده‌هایی که پشت یک متن پنهان شده‌اند را درک کند. احتیاط مشابهی باید زمانی که این سیستم کد یا اسناد فنی را تحلیل می‌کند، رعایت شود: شناسایی الگوها همیشه به معنای درک نیت نویسنده آن‌ها نیست.