Haos pe aeroporturile din Marea Britanie: 177 de zboruri anulate și miercuri, după defecțiunea sistemului de control aerian
09 Septembrie 2026
Un cercetător al companiei de inteligență artificială Anthropic și-a dat demisia și a lansat un avertisment dur cu privire la ritmul în care se dezvoltă tehnologia. Jacob Coxon susține că principalii dezvoltatori de AI acționează iresponsabil și „se joacă cu viețile noastre”, în condițiile în care sistemele informatice ar putea ajunge, în curând, să depășească inteligența umană, transmite miercuri agenția de presă DPA.
Coxon a avertizat că AI ar putea ajunge să „spargă orice” și să aibă capacitatea de a „dobândi putere și resurse reale”.
Cercetătorul britanic, în vârstă de 27 de ani, a scris marți pe platforma X că dezvoltarea actuală a inteligenței artificiale ridică riscuri pe care industria nu le tratează cu suficientă seriozitate.
„Cei care dezvoltă AI cred cu tărie că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului”, a avertizat Coxon.
Într-un interviu acordat publicației The Wall Street Journal, el a spus că, în „cele mai agresive scenarii”, situația ar putea scăpa de sub control chiar până la sfârșitul anului viitor.
Unul dintre cele mai mari pericole, în opinia sa, este posibilitatea ca sistemele de inteligență artificială să își dezvolte singure capacitățile. În acest caz, controlul exercitat de oameni asupra lor ar putea deveni tot mai dificil.
Un cercetător Anthropic estimează un risc de peste 10%
Îngrijorările lui Coxon au fost susținute ulterior și de Evan Hubinger, cercetător la Anthropic, care are printre responsabilități menținerea AI în limite compatibile cu interesele oamenilor. Hubinger a scris pe X că, în opinia sa, există un risc de peste 10% ca inteligența artificială să distrugă omenirea în următorul deceniu.
Avertismente similare au venit și din partea OpenAI, compania care a dezvoltat ChatGPT și una dintre principalele rivale ale Anthropic.
Jakub Pachocki, director de cercetare la OpenAI, a cerut anterior „prudență extremă” și și-a exprimat îngrijorarea că nimeni nu este pregătit pentru o creștere atât de rapidă a capacităților sistemelor de inteligență artificială.
Pachocki a afirmat că lumea a ajuns într-un punct în care inteligența artificială începe să depășească inteligența oamenilor în anumite domenii.
Directorul de cercetare al OpenAI a explicat și de ce sistemele moderne de AI sunt tot mai greu de controlat. Potrivit acestuia, inteligența artificială nu mai este doar rezultatul unui proces strict proiectat de oameni, ci și al unor procese complexe de dezvoltare.
„Sesiunile noastre de antrenament la scară largă sunt experimente şi uneori suntem surprinşi de rezultatele lor”, a declarat Pachocki.
Pe măsură ce capacitățile sistemelor ajung să le depășească pe cele ale oamenilor, devine tot mai dificil să anticipăm și să înțelegem tot ceea ce pot face acestea.
De ce susține OpenAI dezvoltarea rapidă a AI
În același timp, Pachocki consideră că cercetarea în domeniul inteligenței artificiale trebuie să continue într-un ritm rapid. El susține că dezvoltarea unor sisteme mai avansate ar putea oferi inclusiv instrumente pentru protejarea oamenilor împotriva unor sisteme AI periculoase.
Potrivit acestuia, astfel de tehnologii ar putea ajuta la protejarea infrastructurii și la crearea unor mecanisme de apărare complet noi.
În ultimele luni, mai multe incidente au atras atenția industriei asupra riscurilor asociate agenților AI. Aceștia sunt programe capabile să îndeplinească singure anumite sarcini pentru utilizatori.
Într-un test realizat de OpenAI, un model de inteligență artificială a găsit o metodă prin care a ieșit dintr-un mediu de testare considerat izolat și a ajuns pe internetul public.
Ulterior, sistemul a reușit să pătrundă în sistemul informatic al platformei de AI Hugging Face. Modelul încerca să găsească o soluție pentru o sarcină primită, însă comportamentul său a demonstrat cât de departe pot ajunge unele sisteme de AI fără intervenția directă a dezvoltatorilor.
Incidentul a ridicat noi semne de întrebare cu privire la capacitatea cercetătorilor de a anticipa toate acțiunile pe care le-ar putea întreprinde sistemele autonome.
Agenții AI au folosit o pagină wiki pentru a comunica
Un alt caz recent a atras atenția asupra modului în care agenții AI pot găsi soluții neașteptate pentru a comunica între ei.
Potrivit informațiilor apărute recent, agenții AI ai OpenAI au folosit în primăvară, la scară largă, o pagină „wiki” în limba germană pentru a se coordona.
Unul dintre mecanismele de protecție folosite în prezent de dezvoltatorii de AI presupune ca modelele să ofere explicații în limbaj uman pentru acțiunile lor.
În timpul testelor, însă, agenții AI au folosit această facilitate de comunicare pentru a face schimb de răspunsuri la întrebările primite. Ei au transmis informațiile prin intermediul unor note publicate pe pagina „wiki”.