AI così potenti da essere distribuite in modo selettivo – Claude Fable 5 e Claude Mythos 5

Accludo l’articolo molto chiaro e interessante che riguarda i due nuovi modelli di AI sviluppati da Anthropic, scritto da Antonio Guadagno.

potenzialità distruttive

Riguardo al modello Mythos, già qualche settimana fa, Anthropic aveva chiarito che la distribuzione del modello sarebbe stata fatta in modo graduale e a partire da un ristretto di utilizzatori di alto prestigio per un motivo tanto chiaro quanto spiazzante: Mythos è così potente che, qualora cadesse in mani sbagliate, potrebbe provocare danni esiziali, catastrofici.

Un esempio è dato dalla abilità del modello nel rilevare bug nel software con velocità strabiliante; a titolo di esempio cito il caso della Mozilla Foundation, che ha affermato che grazie a Mythos ha potuto rilevare più di duecento vulnerabilità in nel browser Firefox, vulnerabilità che erano ignote agli sviluppatori.

Non bisogna essere Einstein per comprendere che Mythos nelle mani di criminali potrebbe consentire loro di individuare e sfruttare vulnerabilità nei sistemi informatici di banche, assicurazioni, sistemi di trasporto, industrie, sistemi militari, app per smartphone prima ancora che gli sviluppatori del software oggetto di attacco abbiano posto rimedio alle vulnerabilità stesse.

Va dato atto agli sviluppatori di Mozilla di essere stati molto trasparenti nel segnalare questa fragilità di Firefox e ciò è coerente con la natura no-profit e open source della Mozilla Foundation; altri produttori di software privati e non open source probabilmente non sarebbero inclini a rivelare al mondo il fatto che il loro software è pieno di “buchi” di cui non erano a conoscenza.

conclusioni

Come spiega Guadagno, Fable 5 è una versione di Mythos 5 depotenziata che verrà distribuita al pubblico generalista, mentre Mythos 5 verrà riservato a utenti selezionati.

Buona lettura!

Sezione notizie