„Nu subestimați puterea acestei tehnologii. În curând, acestea vor fi sisteme supraomenești care pot pirata orice, pot revoluționa orice domeniu peste noapte și pot dobândi putere și resurse reale.”
Cercetătorul Jacob Coxon de la Anthropic a părăsit producătorul ClaudeAI cu o postare destul de explozivă pe X/Twitter, expunând cursa companiei pentru a realiza o inteligență artificială generală (IAG) care ar putea pune capăt umanității așa cum o știm. Într-un fir lung de discuție, cercetătorul în domeniul inteligenței artificiale din San Francisco a acuzat atât Anthropic, cât și OpenAI că dezvoltă sisteme superinteligente auto-îmbunătățite, fără garanții adecvate. Coxon, în vârstă de 27 de ani, a petrecut trei ani lucrând la cercetarea de pre-instruire în cadrul celor două firme înainte de a se retrage complet din industrie. Demisia sa vine în urma potențialei IPO-uri a Anthropic, evaluată, se pare, la aproape 2 trilioane de dolari în urma discuțiilor de pe piață legate de listare.
„Cei care construiesc IA cred cu tărie că ne-ar putea ucide pe toți până la sfârșitul deceniului”, a scris Coxon, adăugând că directorii și cercetătorii seniori își îndulcesc adesea limbajul pentru presă, în timp ce în privat își exprimă aceleași temeri. El a avertizat că sistemele viitoare vor fi în curând capabile să pirateze aproape orice și să revoluționeze domenii întregi peste noapte și a spus că ritmul progresului nu dă semne de încetinire.
De ce OpenAI și Anthropic nu se vor opri?
Întrebat de ce a rămas atât de mult, având în vedere convingerile sale declarate, Coxon a declarat că personalul OpenAI nu a înțeles pe deplin miza implicată, în timp ce Anthropic înțelege riscurile interne, dar se simte blocat într-o cursă competitivă din care nu poate ieși.
Avertismente
Iată câteva dintre tweet-urile de avertizare ale lui Coxon.
Am demisionat astăzi de la Anthropic. Am petrecut ultimii trei ani făcând cercetări pre-training atât la OpenAI, cât și la Anthropic. Niciuna dintre companii nu acționează responsabil. Se grăbesc direct spre superinteligența auto-îmbunătățită și se joacă cu viețile noastre. Mai multe gânduri mai jos.
Nu subestimați puterea acestei tehnologii. În curând, acestea vor fi sisteme supraomenești care pot pirata orice, pot revoluționa orice domeniu peste noapte și pot dobândi putere și resurse reale. Cu toții am fost martori la progresul în fiecare dintre aceste domenii, iar progresul nu încetinește.
Dacă sunteți cercetător de laborator, vă îndemn să vă gândiți cum vor fi de fapt următorii câțiva ani. Vreți să începeți o rulare de învățare în relație superinteligentă fără o înțelegere riguroasă a minții sale? Ar trebui să vă lăsați capul în jos pentru că „se întâmplă oricum” – sau să profitați de acest moment pentru a solicita condiții diferite?
Între timp, Coxon a declarat pentru Wall Street Journal că munca de siguranță a Anthropic este sinceră, dar că presiunea concurențială face ca compromisurile să fie dificil de evitat, adăugând că tendințele actuale indică spre scenarii în care lucrurile ar putea scăpa de sub control până la sfârșitul anului viitor.
Jacob Coxon
mashable.com/tech/113763/anthropics-jacob-coxon-quits
media advertising
