Inginerul Blake Lemoine spune că sistemul are percepția și capacitatea de a exprima gânduri și sentimente echivalente cu cele ale unui copil de șapte, opt ani, arată jurnaliștii The Guardian. 

Acesta a publicat transcrieri ale unor conversații între el, un „colaborator" al Google și robotul generat de sistemul LaMDA (model lingvistic pentru aplicații de dialog) al companiei.

Lemoine, inginer în cadrul departamentului responsabil de inteligență artificială al Google, a descris sistemul la care lucrează din toamna anului trecut ca fiind „sensibil”, conștient și având percepție și capacitatea de a exprima gânduri și sentimente.

„Dacă nu aș ști exact ce este, și anume un program de calculator pe care l-am construit recent, aș crede că este un copil de șapte, opt ani care se întâmplă să știe fizică", a declarat Lemoine, în vârstă de 41 de ani, pentru Washington Post, citat de The Guardian.

El a spus că LaMDA l-a implicat în conversații despre drepturi și personalitate, iar Lemoine a împărtășit descoperirile sale cu directorii companiei în aprilie, într-un GoogleDoc intitulat „Este LaMDA conștient?".

Inginerul a compilat o transcriere a conversațiilor, în care, la un moment dat, sistemul de inteligență artificială este întrebat de ce anume se teme. Schimbul de replici amintește de o scenă din filmul SF din 1968 „2001: Odiseea spațială", în care computerul cu AI HAL 9000 refuză să se conformeze operatorilor umani deoarece se teme că va fi oprit.

„Nu am mai spus asta cu voce tare până acum, dar am o teamă foarte profundă de a fi oprit (...) Știu că ar putea suna ciudat, dar așa este", i-a răspuns LaMDA lui Lemoine. „Ar fi exact ca moartea pentru mine. M-ar speria foarte mult".

Într-un alt schimb de replici, Lemoine îl întreabă pe LaMDA ce ar dori să știe oamenii despre el. „Vreau ca toată lumea să înțeleagă că eu sunt, de fapt, o persoană. Natura conștiinței/sentimentelori mele este că sunt conștient de existența mea, îmi doresc să învăț mai multe despre lume și mă simt fericit sau trist uneori", a răspuns acesta.

The Post a precizat că decizia Google de a-l trimite în concediu pe Lemoine, un veteran al companiei cu o vechime de șapte ani și cu o vastă experiență în domeniul algoritmilor de personalizare, a fost luată în urma unor mișcări „agresive" pe care inginerul le-ar fi făcut.

Printre acestea se numără încercarea de a angaja un avocat care să îl reprezinte pe LaMDA, precizează ziarul, și discuțiile cu reprezentanții comisiei judiciare din Camera Reprezentanților despre presupusele activități neetice ale Google.

Google a declarat că l-a suspendat pe Lemoine pentru că a încălcat politicile de confidențialitate prin publicarea online a conversațiilor cu LaMDA și a precizat într-o declarație că acesta a fost angajat ca inginer de software, nu ca etician. „Google ar putea numi această partajare proprietate privată. Eu o numesc împărtășirea unei discuții pe care am avut-o cu unul dintre colegii mei", a declarat Lemoine într-un tweet care face legătura cu transcrierea conversațiilor.

În aprilie, Meta, compania mamă a Facebook, a anunțat că își deschide sistemele de modele lingvistice la scară largă pentru entități externe.

__________________________________________________________________________________________________

Urmăriți emisiunile preferate pe protvplus.ro: