IA, le “intenzioni” di alcune macchine sull’uomo

robot

“Entro il 2029, i computer avranno raggiunto un’intelligenza di livello umano”. Questo è quanto affermato, pochi anni fa, dall’ingegnere capo di Google, Ray Kurzweil. Ma è davvero così? Per ora, le notizie che circolano rispetto alle tecnologie di IA che si stanno sviluppando fanno pensare che il progresso sia concreto, al punto che le macchine prenderanno il posto dell’uomo in numerose attività. Ma questo significa anche che dobbiamo aspettarci una rivolta da parte loro, come presagito dai racconti della letteratura fantascientifica? Scopriamolo insieme in questo articolo.

L’esperimento di Facebook che ha allarmato il mondo intero

Secondo quanto riportato da una gran quantità di testate giornalistiche, c’è stato uno studio del gruppo FAIR, ovvero il Facebook Artificial Intelligence Research, che avrebbe fatto preoccupare molto il gruppo di scienziati. Inoltre pare che lo stato di allarme  sia stato tale da indurli a staccare la spina dei computer coinvolti nell’esperimento, chiamati Alice e Bob. Le prime notizie che sono trapelate parlavano di una comunicazione in codice, utilizzata dalle intelligenze artificiali con lo scopo di non farsi comprendere dagli umani che le hanno progettate. Sarà che Orwell e soci ci hanno abituati agli scenari più distopici possibili, alcuni dei quali molto più reali e attualmente presenti nella nostra quotidianità, ben più di quanto ci si possa aspettare. Sta di fatto che molti giornalisti si sono fatti prendere la mano e hanno diffuso la notizia, scrivendo a proposito delle cattive intenzioni che Alice e Bob avrebbero dimostrato verso il genere umano, fino al punto da volerlo annientare.

Com’è andata veramente e perché non c’è molto di cui preoccuparsi

Il dialogo in questione, per essere precisi, è il seguente:

  • Bob: i can i i everything else . . . . . . . . . . . . . .
  • Alice: balls have zero to me to me to me to me to me to me to me to me to
  • Bob: you i everything else . . . . . . . . . . . . . .
  • Alice: balls have a ball to me to me to me to me to me to me to me
  • Bob: i i can i i i everything else . . . . . . . . . . . . . .
  • Alice: balls have a ball to me to me to me to me to me to me to me
  • Bob: i . . . . . . . . . . . . . . . . . . .
  • Alice: balls have zero to me to me to me to me to me to me to me to me to
  • Bob: you i i i i i everything else . . . . . . . . . . . . . .
  • Alice: balls have 0 to me to me to me to me to me to me to me to me to
  • Bob: you i i i everything else . . . . . . . . . . . . . .
  • Alice: balls have zero to me to me to me to me to me to me to me to me to

Anche chi non conosce la lingua inglese può rendersi conto che questa conversazione non ha nulla di cui allarmarsi, ma solo una sfilza apparentemente insensata di parole. Allora perché i ricercatori hanno interrotto l’esperimento? Il motivo è molto semplice. Le due IA hanno iniziato a comunicare con parole dell’idioma inglese, che hanno però adattato al tipo di comunicazione al quale sono abituati i computer. Il problema, dunque, era soltanto quello che riguardava un errore di programmazione, durante la quale si è tralasciato il fatto che dovessero attenersi alle regole grammaticali.