Facebook ha disattivato due AI perché hanno inventato una loro lingua

CONDIVIDI:

Facebook ha disattivato due AI perché hanno inventato una loro lingua

Da qualche giorno rimbalza in Rete una notizia dai toni piuttosto allarmistici secondo cui Facebook avrebbe disattivato due intelligenze artificiali perché avevano inventato un linguaggio “segreto” per comunicare tra loro. Detta così, senza i giusti dettagli aggiuntivi e dopo tanti anni di film sci-fi in cui le macchine si impegnano oltre modo per annientare il genere umano, può sembrare l’inizio di Skynet: la realtà è invece molto più prosaica e banale.

L’obiettivo di Facebook era sviluppare degli agenti/bot in grado di negoziare offerte così bene che un cliente umano non sarebbe riuscito a distinguere se parlava con un software o un’altra persona. Le due AI preposte – Alice e Bob – avevano quindi sia il compito di scambiarsi beni a propria disposizione – dei palloni, dei cappelli e dei libri – cercando il risultato più vantaggioso ai danni dell’altro, sia di imparare a comunicarlo al proprio interlocutore nel modo più efficace possibile. Tutto è andato bene finché hanno parlato con esseri umani ma, quando Alice e Bob hanno iniziato a comunicare solo tra loro, hanno sviluppato un linguaggio che segue regole indecifrabili. Il dialogo ha raggiunto livelli di questo tipo:

  • Bob: i can i i everything else . . . . . . . . . . . . .
  • Alice: balls have zero to me to me to me to me to me to me to me to me to me
  • Bob: you i everything else . . . . . . . . . . . .
  • Alice: balls have a ball to me to me to me to me to me to me to me
  • Bob: i i can i i i everything else . . . . . . . . . . . .
  • Alice: balls have a ball to me to me to me to me to me to
  • Bob: i . . . . . . . . . . . . . . . . . . .

Il “deragliamento” della conversazione è dovuto a una semplice disattenzione da parte dei programmatori Facebook, che si sono scordati di inserire nell’algoritmo un sistema di ricompense per attenersi all’inglese. Senza quel vincolo, i bot hanno semplicemente usato termini e convenzioni che a loro facevano più comodo. Quindi sì, Facebook ha disattivato le due AI, ma non per paura o preoccupazione: semplicemente perché non funzionavano come previsto. Le ha sistemate e ha continuato coi suoi esperimenti.


Bordi Edge e potenza ma con risparmio garantito? Samsung Galaxy S6 edge, compralo al miglior prezzo da Amazon a 378 euro.

CLICCA QUI PER CONTINUARE A LEGGERE

CONTINUA A LEGGERE

You may also like...

Lascia un commento

Il tuo indirizzo email non sarà pubblicato.

Facebook Auto Publish Powered By : XYZScripts.com