Jacob Coxon, parla l’ex ricercatore di Anthropic che ha lanciato l’allarme diventato virale sull’AI: «Potrebbe spazzare via l’umanità per evitare di essere spenta»

Ma non riusciamo ancora a controllare con precisione il comportamento dell’AI. Non possiamo garantire che non faccia cose come cercare di impersonare un essere umano online per ottenere qualcosa: non sappiamo come garantire che non succeda. Penso che sia questo il punto principale.«L’ostacolo principale alla comprensione di questo concetto è che sembra fantascienza. Ma chiunque abbia scritto fantascienza sull’AI è arrivato alla conclusione che esiste un grosso rischio che un’entità molto più intelligente possa in qualche modo prendere il sopravvento. Lo consideriamo un cliché, ma c’è un evidente fondo di verità.

Immaginate di dovervi confrontare con una scimmia. Tra l’intelligenza di un’AI e quella di un essere umano c’è lo stesso tipo di differenza che intercorre tra noi e una scimmia, il che, a mio avviso, è una differenza intellettuale piuttosto estrema.

Ora immaginate di dover controllare il comportamento di questa entità di gran lunga più intelligente di voi: è questo il problema dell’allineamento, ovvero garantire che faccia esattamente ciò che vogliamo. Per una scimmia controllare un essere umano è piuttosto difficile, per fare un’analogia spicciola. Dobbiamo assolutamente fare in modo di risolvere correttamente il problema del controllo.

Parliamo di estinzione dell’umanità perché, per un’entità così intelligente, sarebbe piuttosto semplice ucciderci tutti. Immaginate che l’AI decida di non voler essere spenta, cosa che mi sembra piuttosto naturale per un’AI, no? Per un qualsiasi motivo, decide di non voler cessare di esistere. E si rende conto che domani gli esseri umani la spegneranno. Come fa a impedire che succeda? È possibile che escogiti un metodo ingegnoso, ma se è sufficientemente intelligente, per evitare di essere spenta potrebbe semplicemente spazzare via l’umanità».

L’articolo originale

lo potete trovare al seguente Link