22 Ottobre 2017

ILoveTech - Il magazine per tutti gli amanti della tecnologia

Facebook: com’è andato davvero l’esperimento dei due robot

Facebook: com'è andato davvero l'esperimento dei due robot

Scritto da Giulia Adonopoulos

- 2 Agosto 2017

No, Facebook non ha chiuso per paura di una minaccia robot un programma AI che stava diventando pericoloso.

In questi giorni la notizia di un esperimento sull’intelligenza artificiale avviato da Facebook ha fatto il giro del mondo e seminato il panico in rete.

Ogni sito di informazione ne ha parlato con toni allarmistici, paventando scenari degni dei migliori film di fantascienza.

“Un team di ingegneri Facebook nel panico dopo che due robot durante un esperimento sull’AI hanno iniziato a parlare una lingua sconosciuta all’uomo” si legge su un sito. “Facebook ha subito staccato la spina alle macchine appena hanno iniziato a esprimersi in questo linguaggio inquietante”, ha aggiunto un altro. “L’uomo ha creato Frankestein?” si sono domandati altri ancora.

Il tabloid inglese Sun ha anche riportato le parole di un professore esperto di robotica secondo il quale “il pericolo c’è e non è da sottovalutare: l’intelligenza artificiale potrebbe essere letale soprattutto se applicata in campo militare”.

Ecco com’è andata realmente.

L’esperimento di Facebook

Qualche mese fa gli sviluppatori Facebook hanno iniziato a lavorare su un software di negoziazione con alcuni sistemi di intelligenza artificiale capaci di dialogare tra di loro e di condurre delle semplici negoziazioni in inglese. A un certo punto, però, è successo l’imprevisto: i due bot hanno iniziato a dialogare in una lingua inventata da loro e sconosciuta ai programmatori, che hanno prontamente spento le macchine.

Questo lo scambio di conversazione tra i bot ritenuto “inquietante”.

Bob: I can i everything else
Alice: balls have zero to me to me to me to me to me to me
Bob: you i everything else
Alice: balls have a ball to me to me to me to me to me to me to me to me

Leggi anche Mark Zuckerberg deriso da Elon Musk: “ha una conoscenza limitata dell’AI”

C’è poco da evocare i più distopici film di fantascienza in cui le macchine malvagie prendono il sopravvento sull’uomo. I due bot sopracitati hanno iniziato a parlare semplicemente in modo diverso dal nostro, con un linguaggio privo di senso compiuto.

Come spiegato in un post sull’unità di Ricerca Facebook sull’Intelligenza Artificiale, sono stati “accesi” con lo scopo di dimostrare che è possibile, per agenti di dialogo con diversi obiettivi, avviare una negoziazione dall’inizio alla fine con altri bot o persone arrivando a decisioni o risultati comuni.

I bot non stavano facendo altro che discutere tra di loro su come scambiarsi una serie di oggetti innocui: libri, cappelli e palle, in uno scambio di battute tranquillissimo.

L’intento di Facebook era quello di sviluppare una chatbot che può imparare dalle interazioni umane per negoziare accordi con un utente finale in modo così fluente e naturale da non far percepire la differenza tra robot e persona in carne e ossa.

Cosa è successo dopo

Quando Facebook ha avviato la conversazione tra i due bot, il team ha capito di aver commesso un errore poiché non aveva programmato le macchine a comunicare esclusivamente in inglese. Nel tentativo di imparare l’uno dall’altro, la conversazione ha preso una piega storta, risultando inquietante per chi la legge.

Facebook ha quindi interrotto l’esperimento e riprogrammato il codice, non di certo perché questo avesse creato panico, ma solo perché non stava funzionando.

In futuro non è improbabile che le macchine saranno così intelligenti da sviluppare una propria lingua incomprensibile agli esseri umani, ma non è questo il caso né il momento storico. Ad oggi l’apprendimento automatico non è neanche lontanamente vicino all’autentica AI, ma solo ai primordi del rapporto uomo-macchina. Potete quindi dormire sogni tranquilli.

Tag di questo articolo:

Facebook AI

Potrebbero interessarti