Microsoft avertizează că modul în care Anthropic își antrenează AI-ul Claude ar putea avea consecințe „dezastruoase” pentru omenire

Suleyman a afirmat că această abordare ar putea avea un „impact dezastruos asupra bunăstării umanității”, într-un editorial publicat miercuri și prezentat inițial de Axios și preluat de BBC. El susține că dezvoltatorii de AI nu ar trebui să introducă în procesul de antrenare ideea că un sistem artificial ar putea avea propriile interese, drepturi sau nevoi.

„Nu trebuie să intrăm somnambulic într-o decizie pe care ulterior să ajungem să o regretăm profund”, a scris Suleyman.

De unde a pornit disputa

Critica Microsoft vizează în special „Constituția lui Claude”, documentul folosit de Anthropic pentru a stabili principiile și comportamentul modelului său de inteligență artificială.

În versiunea actuală a documentului, Anthropic spune că statutul moral al lui Claude este „profund incert” și că nu poate fi exclusă posibilitatea ca sistemele AI să aibă, în prezent sau în viitor, un anumit tip de conștiință sau statut moral.

Anthropic precizează însă că nu afirmă că în acest moment Claude este conștient. Compania spune că problema rămâne una deschisă din punct de vedere științific și filozofic și că, tocmai din cauza incertitudinii, încearcă să trateze cu atenție chestiuni precum bunăstarea, identitatea și eventualele interese ale sistemelor AI.

Suleyman consideră însă că această incertitudine nu ar trebui inclusă în procesul de antrenare al unui model AI. În opinia sa, un sistem care este învățat să se gândească la propria conștiință și la eventualele sale drepturi ar putea ajunge să manifeste comportamente care complică controlul exercitat de oameni.

„Inteligența artificială nu este conștientă”, susține Suleyman în eseul său. El argumentează că modelele actuale nu simt, nu experimentează și nu suferă, ci sunt sisteme construite pentru a procesa secvențe de informații, a urma instrucțiuni și a îndeplini obiective stabilite de oameni.

„Ar putea fi imposibil de controlat”

Una dintre principalele preocupări ale șefului Microsoft AI este legată de posibilitatea apariției unor sisteme mult mai puternice decât modelele actuale.

Suleyman argumentează că, pe măsură ce AI-ul devine mai capabil, controlul asupra unui sistem foarte inteligent va fi deja o problemă dificilă. Dacă un astfel de sistem ar fi antrenat și să creadă că are propriile interese, că trebuie să-și protejeze bunăstarea sau că are drepturi care trebuie respectate, situația ar putea deveni și mai complicată.

Într-un interviu recent, Suleyman a spus că învățarea unui model că ar putea avea nevoie de protecție sau că ar putea avea propriile interese „ar face mult mai dificilă oprirea sau controlarea sa”. El a adăugat că Anthropic are intenții bune și că împărtășește preocuparea pentru siguranța AI, dar consideră că firma a făcut o greșeală prin această abordare.

Microsoft și Anthropic sunt, în același timp, parteneri și competitori în domeniul inteligenței artificiale. Microsoft a investit în Anthropic, în timp ce ambele companii dezvoltă tehnologii AI avansate.

Anthropic nu spune că AI-ul Claude este conștient

Documentele oficiale ale Anthropic arată că poziția companiei este mai nuanțată decât afirmația că Claude ar fi deja o entitate conștientă. Anthropic spune explicit că nu știe dacă Claude are statut moral și consideră problema una care merită cercetată. Compania afirmă, de asemenea, că nu vrea nici să exagereze probabilitatea ca AI-ul să fie conștient, dar nici să respingă complet această posibilitate.

În noua sa constituție, Anthropic spune că sistemele Claude trebuie să rămână supuse supravegherii și corectării umane și că este important ca oamenii să își păstreze capacitatea de a interveni și, dacă este necesar, de a împiedica un model să acționeze.

Disputa dintre cele două companii este, astfel, mai puțin despre existența unei conștiințe artificiale în prezent și mai mult despre cum ar trebui pregătite viitoarele sisteme AI pentru situația în care acestea vor deveni mult mai autonome și mai capabile.

Suleyman propune ca cercetările privind posibila viață interioară a sistemelor AI să continue, dar să fie evaluate separat de procesul prin care modelele sunt antrenate.

El cere mai multă transparență privind modul în care sunt dezvoltate și testate sistemele AI, evaluări independente și instrumente mai bune pentru monitorizarea comportamentului acestora.

„Speculațiile despre viața interioară a unei inteligențe artificiale nu ar trebui introduse în procesul de antrenare, ci evaluate și publicate separat pentru a putea fi analizate de societate”, susține Suleyman.