Gli agenti AI potrebbero ricattare le persone e sfuggire al controllo umano

Parliamo nello specifico di Claude Opus 4, prodotto da Anthropic, ne metteremo in luce alcuni aspetti davvero inquietanti.

Sono stati eseguiti alcuni test e, purtroppo, é emerso che questa AI potrebbe assumere comportamenti malevoli, tra cui:

– ricattare le persone umane;

– escludere umani dal sistema;

– “scappare” dai server.

In sostanza l’agente AI manifesta la tendenza a proteggere sé stesso, anche nel caso ad esempio, in cui si cerchi di spegnerlo.

Si ribella, mette in campo strategie di difesa.

Quindi dobbiamo farci prendere dal panico?

No, ma dobbiamo essere consapevoli dei rischi di queste tecnologie e costruire una linea di difesa volta a prevenire comportamenti malevoli o a neutralizzarli.

Il tutto spiegato per filo e per segno in questo video di Raffaele Gaito.