OpenAI formează o nouă echipă de lucru condusă de Ilya Sutskever, cercetătorul său șef și unul dintre cofondatorii companiei, pentru a dezvolta modalități de a conduce și controla sistemele AI „superinteligente".

Într-o postare pe blog, Sutskever și Jan Leike, unul dintre liderii OpenAI, anticipează că entitățile AI cu o inteligență care o depășește pe cea a oamenilor ar putea deveni realitate în decursul acestui deceniu. Această inteligență artificială - presupunând că, într-adevăr, va sosi în cele din urmă - nu va fi neapărat binevoitoare, ceea ce va necesita cercetarea unor modalități de a o controla și de a o restricționa, spun Sutskever și Leike.

„În prezent, nu avem o soluție pentru a conduce sau controla o inteligență artificială potențial superinteligentă și pentru a o împiedica să devină nocivă", scriu ei. „Tehnicile noastre actuale de controlare a entităților AI se bazează pe capacitatea oamenilor de a supraveghea IA. Dar oamenii nu vor fi capabili să supravegheze în mod fiabil sistemele de inteligență artificială mult mai inteligente decât noi."

În acest scop, susține OpenAI, compania a construit o echipă de lucru condusă de liderii companiei care, alături de oameni de știință și ingineri cu experiență, precum și de cercetători din alte organizații din cadrul companiei, va avea ca scop rezolvarea provocărilor tehnice de bază în ceea ce privește controlul inteligenței artificiale superinteligente în următorii patru ani.

Cum vor să facă acest lucru? Obiectivul la nivel înalt este acela de a antrena sistemele de inteligență artificială folosind feedback-ul uman, de a antrena inteligența artificială pentru a ajuta la evaluarea altor sisteme de inteligență artificială și, în cele din urmă, de a construi o inteligență artificială care să se poată asigura că sistemele de IA obțin rezultatele dorite sau nu se abat de la scopul cu care au fost create.

__________________________________________________________________________________________________