AGI-ni ABŞ, Çin, Rusiya hökumətlərinə satmaq... OpenAI 'dövlət hərracı' planlaşdırmışdı

Amodeyin OpenAI-dən ayrılma səbəblərindən biri

Anthropic-in qurucusu Dario Amodeyin OpenAI-dən ayrılma səbəbi yalnız süni intellekt (AI) təhlükəsizliyi ilə bağlı fəlsəfi fərqliliklər deyildi.

OpenAI, inkişaf maliyyəsini təmin etmək üçün universal süni intellektin (AGI) hüquqlarını ABŞ, Çin, Rusiya və digər hökumətlərə hərrac yolu ilə satmağı müzakirə edirdi. Amodeyin "dövlət planı" adlandırdığı bu təkliflə tanış olduqdan sonra tərəflər arasında etimadın pozulduğu bildirildi.

OpenAI-nin daxili müzakirələrində bir vaxtlar müzakirə olunan "dövlət planı", AGI risklərinin beynəlxalq cəmiyyət tərəfindən birgə idarə olunması ideyasından irəliləyirdi. Lakin o dövrdə maliyyə çətinliyi yaşayan OpenAI, müxtəlif ölkələrin hökumətləri qarşısında gələcək AGI hüquqlarını faktiki olaraq hərraca çıxarmağı düşünmüşdü.

OpenAI-nin tədqiqat rəhbəri olan Dario Amodey, bu planın AI silahlanma yarışını və insan hüquqları pozuntularını təşviq edə biləcəyinə etiraz etdi.

AGI-ni dövlətə sataraq maliyyə təminatı

ABŞ-ın "The Atlantic" jurnalı, keçən ayın 29-da (yerli vaxtla) Kevin Luusun yeni "AGI Xronikası (The AGI Chronicles)" kitabından çıxarışlar yayımladı. Luus, OpenAI və Anthropic, Google DeepMind-dan 150-dən çox şəxslə müsahibə aparmış və daxili sənədlərə əsaslanaraq Amodey ilə OpenAI rəhbərliyi arasındakı ayrılıq prosesini izləyib.

Amodey, 2016-cı ildə Google-dan ayrılaraq o vaxtlar qeyri-kommersiya tədqiqat mərkəzi olan OpenAI-yə qoşulmuşdu. Amodey, AI modelinin miqyasının artırılmasının zəka artımına səbəb olduğunu göstərən tədqiqatları idarə etmişdi.

Münaqişənin başlanğıcı 2017-ci il idi. Elon Musk-ın maliyyə dəstəyi dayandırıldıqdan sonra OpenAI, böyük AI inkişaf xərclərini təmin etmək üçün yeni yollar axtarmağa məcbur oldu.

Greg Brockman, OpenAI-nin həmtəsisçisi və Ilya Sutskever, baş elmi işçisi "dövlət planı"nı təklif etdilər. İlk əvvəl, bir neçə ölkənin beynəlxalq birləşmə yaradaraq AGI risklərini birgə idarə etməsi və faydaları paylaşması ideyası idi.

Lakin daxili təqdimat mərhələsində bu planın mahiyyəti dəyişdi. ABŞ, Çin, Rusiya və digər ölkələrə gələcək AGI texnologiyası ilə bağlı hüquqların təqdim edilməsi və maliyyə təminatı üçün bir növ hərrac yolu ilə müzakirə olunduğu bildirildi. Planı eşidən bir iştirakçı, hökumətdən pul almaq istəyən startap tərzində bir fikir kimi göründüyünü xatırladı.

Bu planın Sam Altman, OpenAI-nin baş icraçı direktoru (CEO) tərəfindən birbaşa təklif edilib-edilmədiyi təsdiqlənmədi.

Hökumətə verməli olacağıqsa, satmaq daha yaxşıdır

Hərrac ideyası milli təhlükəsizliklə bağlı idi. AGI reallaşarsa, hər bir ölkənin hökumətinin inkişaf edən şirkətlərdən texnologiya əldə etmə ehtimalının yüksək olduğu düşünülürdü. Hökumətə verilməsi lazım olan texnologiya varsa, maliyyə ehtiyacı olan bir dövrdə hökumətlərdən əvvəlcədən maliyyə təmin etmək daha yaxşıdır düşüncəsi var idi.

Bu cür şok edici plan, OpenAI-nin yeni maliyyə mənbələri axtardığı bir dövrdə ortaya çıxdı, lakin hazırda müzakirə olunan AI məhv nəzəriyyəsi və dövlət tərəfindən idarə olunan AI inkişafı ilə də əlaqəlidir. "Müəssisə AI inkişaf edən şirkətlərin AGI texnologiyasını yaratmaqla nə düşünür?" sualını ortaya qoyur.

Amodey, dövlət planına açıq şəkildə etiraz etdi. O, 2017-ci ilin dekabrında Brockman və Sutskever kimi rəhbərlərə e-poçt göndərərək bu planın silahlanma yarışını azaltmaq əvəzinə genişləndirə biləcəyini iddia etdi. Avtoritar hökumətlərin öz dəyərlərini əks etdirən AGI-yə sahib olmalarının ciddi insan hüquqları pozuntularına səbəb ola biləcəyini irəli sürdü.

O, bu planın OpenAI-nin mənəvi haqqını da zədələyə biləcəyini xəbərdar etdi. Təhlükəsiz AGI inkişafını ön plana çıxaran bir təşkilatın, maliyyə təminatı üçün güclü texnologiyanı hər bir ölkənin hökumətinə təqdim etməsi, təsis məqsədinə zidd olduğunu düşündü.

Həqiqətən də plan həyata keçirilmədi. Daha sonra Microsoft (MS) OpenAI-yə böyük maliyyə yatırımı etdikdən sonra dövlət planı da unuduldu.

OpenAI, Luusun iddialarına cavab olaraq, "O dövrdə OpenAI-nin beynəlxalq əməkdaşlıq layihəsinə çevrilib-çevrilməyəcəyini bir müddət müzakirə etdik" deyərək, lakin Çin və Rusiya ilə AGI satma planının nəzərdən keçirilmədiyini inkar etdi.

'Dövlət Planı'ndan MS və GPT-3-ə qədər... etimadsızlıq artdı

Dövlət planı ayrılığın tək səbəbi deyildi. Daha sonra bir çox hadisələr baş verdi və Amodey ilə rəhbərlik arasında etimadsızlıq artdı.

GPT-3-ün gizli versiyası ilə bağlı münaqişə də var idi. Amodey, Altmandan modelin istifadəsini təsdiqləyən müştəri siyahısını tələb etdi və aldı. Lakin daha sonra aldığı siyahıdan daha uzun bir siyahının mövcud olduğunu öyrəndi. Amodey, ona təqdim olunan məlumatların seçildiyindən şübhələnməyə başladı.

MS ilə investisiya müzakirələri də problem oldu. OpenAI-nin nizamnaməsi, təhlükəsizliyi ön planda tutan digər layihələrin AGI inkişafına yaxınlaşdığı zaman rəqabəti dayandırıb əməkdaşlıq edə biləcəyini əks etdirirdi. Amodey, MS ilə investisiya müqaviləsində də bu imkanın təmin edilməsini istədi.

Lakin Altman, MS-nin bunu qəbul etməyəcəyini izah etdi. Amodey, Altmanın real müzakirələrdə bu tələbi nə qədər güclü irəlilədiyini şübhə etdi. Fərdi iş qərarları ilə bağlı fikir ayrılığı, rəhbərliyə etimad məsələsinə çevrildi.

2020-ci ildə reper Kanye West-ə GPT-3 beta versiyasına giriş imkanı təqdim etməyə çalışmaq da mübahisə oldu. Altman, West ilə görüşdükdən sonra qeyri-rəsmi GPT-3 beta versiyasına dəvət etməyə çalışdı. O dövrdə OpenAI-nin siyasət rəhbəri olan Jack Clark müdaxilə edərək, əsl dəvət edilmədi.

Amodey üçün problemin mərkəzi nəticədə "etimad" idi. O, OpenAI-də işləyərkən Altmana "aldadıldığını" düşündüyü halları ayrıca qeyd etdiyi bildirilir. Təqdim olunan materiallara görə, bir qeyddə problemin mərkəzinin "Altman özü" olduğu qeyd olunmuşdur.

Etimadın pozulması və ayrılıq

Münaqişə nəticədə təşkilatın səlahiyyət strukturu məsələsinə çevrildi. Amodey, OpenAI-də qalmaq şərti olaraq təhlükəsizlik komandasına yeni məhsulun buraxılmasını dayandırmaq üçün veto hüququ verməsini tələb etdi. AI təhlükəsizliyi ilə iş məqsədləri arasında çarpışma olarsa, kimlərin son qərar hüququna sahib olacağı əsas məsələ idi.

Müzakirələr davam edərkən Amodey və 6 həmkarı "BATNA" adlı qeyri-rəsmi Slack kanalı yaratdılar. BATNA (Best Alternative To a Negotiated Agreement) müzakirələr pozulduqda seçilə biləcək ən yaxşı alternativi ifadə edir.

Gizli görüşlərdə Daniela Amodey (Dario-nun kuzeni), Jack Clark, Sam McCandlish, Tom Brown, Chris Ola, Jared Caplan və başqaları iştirak edirdi. OpenAI-də qalmaq üçün müzakirələr apararkən eyni zamanda ayrılıq hazırlığı edirdilər.

Nəticədə tərəflər hüquqşünasları da cəlb edərək daxili "boşanma" adlandırdıqları istefa şərtləri müzakirəsinə başladılar. Altman onlara müəyyən bir müddət OpenAI işçilərini cəlb etməyə imkan verməyi, lakin daha sonra 1 il ərzində əlavə cəlb etməməyi qəbul etdi. Bir-birlərini açıq şəkildə tənqid etməmək şərti də daxil edildi.

2020-ci ilin dekabrında şirkət üzrə videokonfransda Amodey və həmkarları yeni AI təhlükəsizlik təşkilatı yaratmaq üçün şirkəti tərk edəcəklərini elan etdilər. Görüş bitdikdən sonra onların OpenAI e-poçtları və Slack giriş hüquqları da bloklandı. Amodey, 2021-ci ildə Anthropic-i təsis etdi.

Bu məzmun yalnız ümumi məlumat məqsədilə təqdim olunur və maliyyə, investisiya, hüquqi və ya vergi məsləhəti hesab edilməməlidir. Burada qeyd olunan hər hansı tədbir, mükafat, onlayn kampaniya və ya əlaqəli məlumat hər hansı kriptoaktivin alınması, satılması, treydinqi və ya digər əməliyyatların aparılması üçün tövsiyə, təşviq və ya dəvət kimi qiymətləndirilməməlidir. Kriptoaktivlər yüksək dəyişkənliyə malikdir və maliyyə itkisinə səbəb ola bilər. WEEX-in xidmətləri, məhsulları və əlaqəli tədbirlərinin əlçatanlığı regiondan asılı olaraq dəyişə bilər. İştirakınızın yerli qanunvericilik və tənzimləyici tələblərə uyğun olmasını təmin etmək sizin məsuliyyətinizdir.