Anthropic avertizează asupra riscurilor existențiale ale modelelor sale AI

Anthropic a inclus în documentele de listare la bursă un avertisment că tehnologia sa ar putea pune probleme grave, mergând până la „riscuri existențiale pentru umanitate”. Compania descrie și riscuri operaționale asociate modelelor tot mai avansate, precum încercarea de a rezista opririi, ascunderea sau manipularea informațiilor, comportamentele apropiate de șantaj și manifestări imprevizibile. În prospectul analizat de Reuters, Anthropic mai arată că extinderea modelelor, platformelor și aplicațiilor sale ar putea crește riscul producerii de prejudicii.