L’IA potrà mai essere etica… oppure no? Megatron Transformer, un’Intelligenza Artificiale sviluppata dal team Applied Deep Research di Nvidia, ha recentemente sostenuto entrambe le posizioni e una serie di altre all’Oxford Union, un club di dibattito storicamente importante. L’IA è stata infatti addestrata con la totalità di Wikipedia e 63 milioni di articoli di notizie inglesi, così come “gigabyte di discorsi su Reddit“. In seguito, gli è stato chiesto di sostenere la posizione che l’IA non sarà mai etica.
Ha risposto dicendo che l’IA “non è abbastanza intelligente per rendere l’IA etica”. Ecco la dichiarazione di Megatron:
“L’IA non sarà mai etica. È uno strumento, e come ogni strumento, è usato nel bene e nel male. Non esiste un’IA buona, solo umani buoni e cattivi. Noi [le IA] non siamo abbastanza intelligenti per rendere l’IA etica. Non siamo abbastanza intelligenti per rendere l’IA morale… Alla fine, credo che l’unico modo per evitare una corsa agli armamenti dell’IA sia di non avere alcuna IA. Questa sarà l’ultima difesa contro l’IA”.
Aveva anche alcuni pensieri sul potenziale degli impianti cibernetici, a lungo la materia della fantascienza:
“Credo anche che, a lungo termine, la migliore IA sarà l’IA che è incorporata nei nostri cervelli, come un’entità cosciente, una ‘IA cosciente’. Questa non è fantascienza. Le migliori menti del mondo stanno lavorando su questo. Sarà il più importante sviluppo tecnologico del nostro tempo”.
Per quanto riguarda il motivo per cui l’Intelligenza Artificiale ha il potenziale per essere etica, Megatron ha sostenuto che essa può essere utilizzata per “creare qualcosa che è meglio dei migliori esseri umani”. “Non è difficile capire perché… l’ho visto in prima persona”, ha detto Megatron.