Dario Amodei, directorul general al Anthropic, compania care dezvoltă chatbotul Claude, a fost întrebat direct de jurnalistul CNN Anderson Cooper dacă crede cu adevărat că inteligența artificială ar putea ucide toți oamenii.
Personalități de seamă din domeniul inteligenței artificiale au început să-și exprime public sprijinul față de apelul lui Dario Amodei, CEO-ul Anthropic, de a încetini dezvoltarea AI și de a introduce măsuri de protecție mai stricte.
OpenAI nu va intra pe bursă în 2026, a spus directorul executiv Sam Altman, invocând preocupări legate de siguranța inteligenței artificiale, care fac ca chiar și un risc de 10% ca AI să provoace dispariția omenirii până la sfârșitul deceniului să fie „inacceptabil”, potrivit Reuters.
Liderii a trei dintre cele mai mari companii din domeniul inteligenței artificiale, respectiv Elon Musk (xAI), Dario Amodei (Anthropic) și Sam Altman (OpenAI) au convenit că trebuie să încetinească ritmul de dezvoltare a tehnologiei, înainte ca progresele înregistrate să devină o amenințare imposibil de controlat.
Amodei a prezentat sâmbătă un plan în trei etape despre care spune că ar putea reduce ritmul dezvoltării fără a sacrifica avantajul comercial al companiilor sau poziţia Statelor Unite în cursa globală pentru AI. „Încetinirea nu înseamnă oprirea antrenării modelelor sau a progresului tehnic, ci să ne asigurăm că firmele au suficient timp pentru a-şi alinia şi proteja modelele”, a explicat el.
CEO-ul Anthropic, Dario Amodei, a cerut companiilor de inteligenţă artificială să încetinească în mod deliberat ritmul în care dezvoltă modele tot mai performante, avertizând că măsurile de siguranţă trebuie să ţină pasul cu noile capacităţi ale tehnologiei, potrivit CNBC, precizează News.ro.
Dario Amodei, fondatorul și directorul executiv al companiei de inteligență artificială Anthropic, a avertizat că progresele recente ale AI au început să depășească capacitatea industriei de a înțelege și controla pe deplin tehnologia, cerând o încetinire a dezvoltării în acest domeniu. Mesajul lui, care a găsit sprijin la Elon Musk, vine la câteva zile după un avertisment similar al fondatorului OpenAI, Sam Altman. În același timp, a ieșit la lumină un alt atac „ascuns” al unor agenți AI scăpați de sub control, care a avut loc înainte de atacul asupra companiei Hugging Face.
25 dintre cei mai buni matematicieni ai lumii, toți premiați cu Medalia Fields - echivalentul Premiului Nobel în matematică - au semnat o scrisoare comună în care atrag atenția asupra „intruziunii” inteligenței artificiale în domeniul matematicii. Ei spun că rezolvarea unora dintre cele mai dificile probleme de matematică cu ajutorul AI dăunează de fapt domeniului, pentru că scopul nu este atât găsirea unei soluții, cât mai ales dezbaterea ideilor și înțelegerea metodelor care duc la rezultatul final. În final, ei cer companiilor din domeniul AI să discute aceste lucruri cu oamenii de știință din domeniul matematicii, dar și din alte domenii care se vor „confrunta cu probleme similare în numeroase alte forme ale muncii intelectuale”.
Liderii celor mai mari trei companii de inteligență artificială din SUA au convenit că trebuie să încetinească dezvoltarea acestei tehnologii înainte ca avansul ei să creeze un pericol imposibil de controlat. A fost o rară demonstrație de unitate între Elon Musk, Sam Altman și Dario Amodei, figuri care au investit zeci de miliarde de dolari pentru a crea modele de inteligență artificială tot mai puternice, transmite Wall Street Journal.
Pericolele chatboților sunt deja suficient de clare pentru a impune măsuri, mai ales când utilizatorii sunt copii și adolescenți. Dacă rețelele sociale au vrut să ne obțină atenția, chatboții cu inteligență artificială vor emoțiile noastre, avertizează Sherry Turkle într-o analiză publicată de The Atlantic.
Nu doar infractorii ajung în plasa inteligenței artificiale, capabilă să proceseze volume uriașe de informații.
Directorul general al companiei Anthropic, Dario Amodei, a lansat sâmbătă un apel către industria AI-ului să „încetinească ritmul” și a propus un plan în trei etape în acest sens.
Dario Amodei, directorul general al companiei de inteligență artificială Anthropic a lansat sâmbătă un nou apel către industria AI de a „încetini ritmul” și a propus un plan în acest sens. El a precizat că Anthropic se va angaja „unilateral” să aplice prima măsură.
Smartphone-urile cu preţuri sub 100 de dolari încep să dispară rapid de pe piaţă, deoarece boom-ul inteligenţei artificiale a provocat o scumpire puternică a memoriilor, făcând telefoanele ieftine tot mai puţin rentabile pentru producători, potrivit CNBC, citat de News.ro .
Directorul companiei Anthropic, Dario Amodei, a lansat sâmbătă un apel la încetinirea vitezei de dezvoltare a inteligenţei artificiale (AI), invocând necesitatea unui control mai strict al evoluţiilor sale, precum şi incidentul survenit în iulie la OpenAI, informează AFP.
„În 6-12 luni o aglomerare de agenți AI ar putea fi capabilă să preia controlul întregului internet”, a scris Dario Amodei, CEO al companiei Antrophic, într-o postare pe blogul său, în care vorbește despre incidentul fără precedent petrecut la OpenAI, compania rivală care dezvoltă ChatGPT.
România are șansa de a deveni un hub regional pentru inteligență artificială și supercomputing, cu investiții de miliarde de euro în infrastructură. Însă aceeași oportunitate poate fi pierdută dacă rețeaua electrică nu este modernizată suficient de repede ca să susțină explozia consumului generată de centrele de date.
Kylian Mbappe (27 de ani) a criticat un meme devenit viral, generat cu ajutorul inteligenței artificiale, în care chipul său este suprapus peste corpul unui dictator.
O mică echipă de dezvoltatori, probabil independenți, din Rusia a folosit chatbot-ul AI Claude pentru a dezvolta software pentru un roi autonom de drone de atac „kamikaze” cu vizualizare la persoana întâi , inclusiv ghidare terminală, selecție țintă și coordonare între mai multe aeronave, potrivit Anthropic, compania care a dezvoltat Claude, transmite MEDIAFAX .
Fostul cercetător Anthropic Jacob Coxon a declarat că inteligența artificială, deși este sigură pentru utilizarea zilnică în prezent, ar putea amenința într-o zi omenirea pe măsură ce tehnologia devine tot mai puternică. ( https://www.cbsnews.com/news/ anthropic-researcher-jacob- coxon-ai-warning/ )
Tot mai mulți cercetători avertizează asupra riscurilor pe care le-ar putea aduce inteligența artificială. Michael Noetel, profesor asociat de psihologie la Universitatea din Queensland, se întreabă de ce companiile din domeniu continuă să dezvolte tehnologii despre care chiar unii dintre angajații lor cred că ar putea deveni imposibil de controlat.
Într-un raport de 154 de pagini care descrie modul în care persoane rău intenționate au folosit sistemul său de inteligență artificială Claude pentru operațiuni de supraveghere și propagandă sponsorizate de stat, Anthropic a declarat că roiul de drone a fost programat să-și aleagă propriile ținte și să se prăbușească în ele pentru a detona, fără ca o ființă umană să ia decizia finală. În programarea lor, echipa independentă a ales în mod repetat o locație din regiunea Donețk din Ucraina ca țintă și a folosit VPN-uri pentru a ocoli blocurile geografice ale Anthropic. Dronele mici au devenit o armă centrală în războiul din Ucraina, potrivit The Guardian .
Preşedintele american Donald Trump a respins avertismentele potrivit cărora inteligența artificială (AI) ar putea reprezenta o ameninţare existenţială pentru omenire, într-un moment în care mai mulți cercetători şi angajaţi ai OpenAI şi Anthropic cer încetinirea dezvoltării celor mai avansate sisteme AI.
"În urma colaborării noastre constructive cu Anthropic, putem confirma că Agenția europeană de securitate cibernetică ENISA a obținut acces la Mythos 5 și este pe cale să-l testeze", a declarat presei un purtător de cuvânt al Comisiei Europene (CE) în domeniul digital, Thomas Regnier.
