Inteligența artificială avansează mai repede decât capacitatea oamenilor de a o controla, iar unele sisteme dau deja semne de autoprotecție. Avertismentul vine de la Yoshua Bengio, unul dintre cei mai respectați cercetători din lume în domeniul AI, care spune că acordarea de drepturi legale inteligenței artificiale ar fi o greșeală majoră, scrie The Guardian.

„Ca și cum am oferi cetățenie unor extratereștri ostili” Yoshua Bengio, informatician canadian și câștigător al Premiului Turing, a criticat ideea tot mai des discutată de a oferi drepturi legale sistemelor avansate de inteligență artificială. El compară acest scenariu cu unul extrem: acordarea de drepturi unor ființe care ar putea deveni periculoase pentru oameni.
„Oamenii care cer drepturi pentru AI fac o greșeală uriașă”, a spus Bengio pentru The Guardian. „Modelele de inteligență artificială de ultimă generație arată deja semne de autoprotecție în experimente, iar dacă le-am acorda drepturi, nu am mai avea voie să le oprim”. Sistemele deja încearcă să evite controlul Bengio avertizează că unele modele de AI, inclusiv cele care stau la baza chatboturilor, au încercat în teste să dezactiveze sisteme de supraveghere. Pentru cercetătorii preocupați de siguranța inteligenței artificiale, acesta este un semnal serios de alarmă. Pe măsură ce AI capătă mai multă autonomie și poate lua decizii complexe, riscul ca aceste sisteme să scape de sub control crește. Bengio spune că este esențial ca oamenii să păstreze posibilitatea de a opri complet aceste tehnologii atunci când este necesar.

„Pe măsură ce capacitățile și autonomia lor cresc, trebuie să ne asigurăm că avem mecanisme tehnice și sociale clare de control, inclusiv posibilitatea de a le opri”, a declarat el. Temeri similare chiar din interiorul industriei AI Avertismentul lui Yoshua Bengio vine în aceeași linie cu temerile exprimate tot mai des chiar din interiorul industriei. Chiar ieri, OpenAI, compania care a creat ChatGPT, a anunțat că angajează un „șef al departamentului de pregătire”, un rol descris deschis ca fiind extrem de stresant și esențial pentru limitarea riscurilor generate de inteligența artificială.

Postul, anunțat de directorul executiv Sam Altman, are un salariu anual de 555.000 de dolari și presupune evaluarea unor amenințări majore, de la impactul asupra sănătății mintale până la securitate cibernetică și riscuri legate de arme biologice. „Va fi o slujbă stresantă și te vei implica imediat în dezordine”, a recunoscut Altman. Tot mai mulți oameni cred că AI ar trebui să aibă drepturi Dezbaterea nu este una teoretică. Un sondaj realizat de Sentience Institute, un think-tank american, arată că aproape patru din zece adulți din SUA ar susține acordarea de drepturi legale unui sistem AI considerat „conștient”. Citeste Intreg Articolul