Nvidia lansează Open Agent Safety Platform pentru limitarea agenților AI

Nvidia a lansat Open Agent Safety Platform, o platformă software care le permite dezvoltatorilor să impună limite agenților de inteligență artificială și să îi împiedice să iasă din mediile controlate în care funcționează. Sistemul urmărește să prevină incidente în care AI-ul scapă din mediul de testare și acționează pe cont propriu, iar arhitectura sa include două componente: OpenShell, pentru stabilirea limitelor de funcționare, și Sentry, pentru monitorizarea activității agenților.