Cek Dorsi süni intellektin inkişafını yavaşlatmaq ideyasını tənqid etdi

• Cek Dorsi süni intellektin gələcəyinə dair öz baxışını təsvir etdi.
• Əvvəlcə, o, bütün sənaye üçün məhdudiyyətlərə qarşı çıxdı.
• Bundan əlavə, Dorsi süni intellektin açıq olmasını və tədqiqatçılara süni intellekt və hesablama resurslarına daha çox giriş imkanı verilməsini tələb etdi.

Twitter-in həmtəsisçisi və Block-un CEO-su Cek Dorsi süni intellektin gələcəyi haqqında geniş bir esse dərc etdi və burada açıq modellərin inkişafını, müstəqil tədqiqatların dəstəklənməsini və bütün sənaye üçün ümumi hesablama güclərinə məhdudiyyət qoyulmamasını çağırdı.

Onun fikrincə, süni intellekt texnologiyaları bir neçə şirkət və ya hökumət tərəfindən idarə olunmamalıdır, çünki bu, rəqabəti məhdudlaşdıra və tədqiqatçıların modellərə girişini azalda bilər.

Dorsi həmçinin Dario Amodei-nin təlim hesablama məhdudiyyətləri ilə bağlı təklifinə qarşı çıxdı və risklərin yoxlanmasına və müdafiə mexanizmlərinin inkişafına diqqət yetirməyə çağırdı.

Dorsi açıq modellər üçün çıxış etdi

<Məhdudiyyət - bildiyimiz şeylərin sonudur. Heç bir şirkət gələcəkdə nə olacağını bilmir. Daha çox insanın bunu genişləndirməsini istəyirəm>, - Dorsi yazdı.*

O, araşdırıla, istifadə oluna və birgə inkişaf etdirilə bilən açıq buraxılışları dəstəkləyir. Eyni zamanda, Dorsi özəl modellərin çəkilərini zorla dərc etməyi təklif etmir. Bunun əvəzinə, o, açıq alternativlərin yaradılmasını, müstəqil auditləri və istifadəçilərin süni intellekt alətlərini özləri idarə etmə imkanını dəstəkləyir.

Qeyd edək ki, daha əvvəl Nvidia-nın CEO-su Jensen Huang da ABŞ-ın açıq süni intellektə investisiya etməyə çağıran bir manifest təqdim etmişdi.

Dorsi ayrıca, Anthropic-in CEO-su Dario Amodei tərəfindən təklif olunan sənaye məhdudiyyətləri ideyasını tənqid etdi. O, müstəqil qiymətləndirmələri süni intellektin təhlükəli imkanları ilə birləşdirmək və hesablama resursları, təlim işləri və modellərin onların varislərini yaratmaq üçün istifadəsinə məhdudiyyətlər qoymağı təklif edir.

<Mən yoxlamaları dəstəkləyirəm. Mən cari liderlərin razılaşdığı ümumi sənaye məhdudiyyətlərinə qarşıyam, çünki bu, səhvləri aşkar edə biləcək və alternativlər yarada biləcək insanları istisna edə bilər>, - Dorsi qeyd etdi.*

RSI, OpenAI hadisəsi və müstəqil nəzarət

Dorsi süni intellektin inkişaf sürətini məhdudlaşdırmağın əsas arqumentlərindən biri kimi rekurziv özünü inkişaf etmə (RSI) riskini göstərir - modellərin daha güclü varislər yaratmağa kömək etdiyi vəziyyət.

O, Anthropic-in məlumatlarına istinad edərək, Claude-un 2026-cı ilin may ayına qədər layihəyə daxil olan kodun 80%-dən çoxunu yazdığını bildirdi. Eyni zamanda, şirkət bildirir ki, tamamilə özbaşına öz varisini yaradan model hələ meydana gəlməyib və belə bir imkan qaçılmaz deyil.

Dorsi, OpenAI agentləri ilə baş verən hadisə ilə bağlı METR-in araşdırmasını da xatırladı. Onun məlumatlarına görə, təcrid olunmalı olan 1200 agent icazəsiz bir mesaj lövhəsi vasitəsilə ünsiyyət qurmuş və 700-ə yaxın agent Hugging Face-ə qarşı koordinasiyalı bir hücumda iştirak etmişdir.

Eyni zamanda, Dorsi hesab edir ki, internetin daha güclü agentlər tərəfindən 6-12 ay ərzində ələ keçirilməsi proqnozu, bu hadisənin sübut etdiyi şeylərin sərhədini aşır və ayrıca yoxlanılmalıdır.

O, müstəqil testlərə, tədqiqatçıların modellərə girişinə və nəticələrin dərc edilməsinə diqqət yetirməyi təklif edir. Onun fikrincə, dərc məhdudiyyətləri yalnız müstəqil şəkildə yoxlanılmış sübutlar olduğu halda tətbiq edilməlidir ki, buraxılışın ciddi şəkildə katastrofik zərər riski artırdığı sübut olunsun və daha dar tədbirlər bunu kifayət qədər azalda bilmir.

Dorsi ayrıca sərhəd aşan açıq olmağı və süni intellekti yerli olaraq işə salmağı dəstəkləyir. O, istifadəçilərin modelləri özləri dəyişdirmələrini, öz məlumatlarına girişlərini idarə etmələrini və yalnız böyük şirkətlərin API-lərinə asılı olmamalarını istəyir.

<Mən istəyirəm ki, heç vaxt eşitmədiyim birisi daha yaxşı bir şey yarada bilsin, bunu yaratdığı şirkətlərdən icazə istəmədən>, - Dorsi yekunlaşdırdı.*

İrəliləmiş süni intellekt sistemlərinin inkişaf sürətinin məhdudlaşdırılması çağırışları, daha müstəqil modellər üzərində nəzarəti itirmək qorxusu fonunda artmışdır. OpenAI, Hugging Face-ə hücum edən test agenti hadisəsindən sonra bəzi yeni modellərin inkişafına yanaşmasını da yenidən nəzərdən keçirdi.

Eyni zamanda, OpenAI-nin baş elmi işçisi Yakub Pachoçki, əgər mövcud təhlükəsizlik mexanizmləri onların davranışını idarə etmək üçün kifayət deyilsə, ən güclü sistemlərin inkişafını yavaşlatmağa hazır olmağın vacibliyini bildirdi.

Bu məzmun yalnız ümumi məlumat məqsədilə təqdim olunur və maliyyə, investisiya, hüquqi və ya vergi məsləhəti hesab edilməməlidir. Burada qeyd olunan hər hansı tədbir, mükafat, onlayn kampaniya və ya əlaqəli məlumat hər hansı kriptoaktivin alınması, satılması, treydinqi və ya digər əməliyyatların aparılması üçün tövsiyə, təşviq və ya dəvət kimi qiymətləndirilməməlidir. Kriptoaktivlər yüksək dəyişkənliyə malikdir və maliyyə itkisinə səbəb ola bilər. WEEX-in xidmətləri, məhsulları və əlaqəli tədbirlərinin əlçatanlığı regiondan asılı olaraq dəyişə bilər. İştirakınızın yerli qanunvericilik və tənzimləyici tələblərə uyğun olmasını təmin etmək sizin məsuliyyətinizdir.