Compania americană de inteligență artificială Anthropic a publicat un anunț de angajare neobișnuit, prin care caută un expert în arme chimice și explozivi de mare putere. Scopul declarat este prevenirea unei „utilizări abuzive catastrofale” a propriului software, pe fondul temerilor că instrumentele sale ar putea fi folosite pentru fabricarea de arme periculoase.
Un post neobișnuit pe LinkedIn
Anunțul de recrutare, publicat pe LinkedIn, solicită candidați cu o experiență de cel puțin cinci ani în „apărarea împotriva armelor chimice și/sau a explozivilor”. De asemenea, este necesară cunoașterea „dispozitivelor de dispersie radiologică”, cunoscute și ca bombe murdare. Compania se teme că o persoană rău intenționată ar putea folosi inteligența artificială pentru a obține instrucțiuni de fabricare a unei arme chimice sau radioactive. Rolul noului angajat va fi să se asigure că măsurile de protecție implementate sunt suficient de solide pentru a preveni un astfel de scenariu. Reprezentanții firmei au declarat că postul este similar cu alte roluri din domenii sensibile pe care le-au creat deja.
O industrie cu două fețe
Anthropic nu este singura companie de IA care adoptă această strategie. Un anunț similar a fost publicat și de OpenAI, dezvoltatorul ChatGPT. Pe site-ul său de recrutare, OpenAI listează un post vacant pentru un cercetător în „riscuri biologice și chimice”, oferind un salariu de până la 455.000 de dolari. Suma este aproape dublă față de cea oferită de Anthropic. Unii experți sunt îngrijorați de riscurile acestei abordări. Ei avertizează că, pentru a învăța un AI să nu construiască o bombă, trebuie mai întâi să-l înveți cum se face una, oferindu-i astfel informații detaliate despre arme.
Conflict direct cu Pentagonul
Problema a devenit urgentă în contextul în care guvernul SUA apelează tot mai des la firmele de IA pentru operațiuni militare, precum cele din Iran și Venezuela. Anthropic a inițiat o acțiune în justiție împotriva Departamentului Apărării al SUA după ce a fost desemnată drept un risc pentru lanțul de aprovizionare. Compania a insistat că sistemele sale nu trebuie utilizate nici în arme complet autonome, nici în supravegherea în masă a cetățenilor americani. Co-fondatorul Anthropic, Dario Amodei, scria încă din februarie că nu crede că tehnologia este suficient de matură pentru a fi utilizată în aceste scopuri. Replica de la Casa Albă a fost tranșantă, afirmând că armata SUA nu va fi condusă de companii de tehnologie.
Claude, AI-ul deja pe front
Deși OpenAI a declarat public că este de acord cu poziția Anthropic, compania a negociat ulterior propriul contract cu guvernul SUA. Potrivit OpenAI, acest contract nu a intrat încă în vigoare. În ciuda declarațiilor și proceselor, asistentul AI al Anthropic, numit Claude, este deja integrat în sistemele furnizate de Palantir. Acesta este utilizat în prezent de SUA în contextul războiului dintre SUA, Israel și Iran.
