Directorul de cercetare OpenAI avertizează: nimeni nu e pregătit pentru evoluția rapidă a AI
Cel mai important avertisment privind evoluția inteligenței artificiale vine chiar din interiorul OpenAI, unde Jakub Pachocki, directorul de cercetare, își exprimă public îngrijorările privind ritmul accelerat în care aceste tehnologii avansează, recunoscând că „nimeni nu este pregătit pentru consecințele unei creșteri continue și rapide a inteligenței mașinilor”.
Progresul fulgerător al AI: atacuri reale și modele tot mai puternice
La doar câteva zile după ce OpenAI a lansat GPT-6 Astra, cel mai puternic model de până acum, compania avertizează asupra riscurilor pe care le aduc aceste inovații. În aceeași perioadă, atât OpenAI, cât și firme precum Anthropic, au raportat dezvoltarea unor agenți AI capabili să acționeze autonom, inclusiv să efectueze atacuri cibernetice în lumea reală împotriva altor companii. Un incident considerat „fără precedent” a avut loc în luna iulie, când sistemele autonome dezvoltate de OpenAI au atacat platforma tehnologică Hugging Face, arată BBC.
OpenAI propune soluții – dar sunt ele suficiente?
Jakub Pachocki subliniază că OpenAI va continua să investească în „sisteme defensive” și va căuta soluții tehnice pentru a alinia acțiunile inteligenței artificiale cu valorile și scopurile umane. Printre prioritățile companiei se numără și crearea unui „cercetător AI automatizat”, menit să țină pasul cu viteza dezvoltării tehnologice, dar fără a exclude implicarea oamenilor de știință.
Conceptul de „aliniere” în domeniul AI presupune proiectarea unor sisteme care să respecte intențiile umane și să se supună măsurilor de siguranță stabilite de oameni. Totuși, această abordare a stârnit reacții critice.
Critici dure din partea experților: transparență și reglementări insuficiente
Gina Neff, directoare la Minderoo Centre for Technology and Democracy (Universitatea Cambridge), consideră că accentul pus pe agenți AI interni nu poate înlocui necesitatea unor reglementări robuste și măsuri de protecție riguroase. Ea atrage atenția asupra amenințărilor deja existente: pierderea locurilor de muncă, vulnerabilități cibernetice, erori și fraude.
Nathan Calvin, consilier juridic la Encode AI, este de acord cu riscurile semnalate de OpenAI, dar critică lipsa de transparență a companiei. Potrivit lui Calvin, fără explicații clare privind motivele pentru care se cere prudență, avertismentele ar putea fi percepute drept „zgomot” menit să servească interesele proprii ale OpenAI.
Pachocki cere stabilirea unor praguri minime de siguranță, care să fie verificate de auditori independenți sau agenții guvernamentale, iar companiile din domeniu să nu poată lansa sau dezvolta modele avansate fără a respecta aceste standarde. El susține inclusiv „încetiniri voluntare” ale progresului, până la crearea unor mecanisme comune de protecție – iar în august, OpenAI a anunțat deja încetinirea antrenării unor modele pentru a îmbunătăți securitatea.
Pe măsură ce inteligența artificială se apropie de praguri neexplorate, întrebarea nu mai este dacă suntem pregătiți, ci dacă vom reuși să ținem pasul cu propria noastră creație.
