Bug-IA

I numeri non mentono, si sente a volte dire. Se è per questo non vanno nemmeno a fare la spesa, ma non mi risulta che qualcuno ci tenga a sottolinearlo.

Dovrebbe essere semplicemente ovvio che i numeri non mentano, così come le sedie non parlano, le lettere dell’alfabeto non ridono e le belle ragazze conosciute a una festa non ti richiamano.

Ci fu però un caso, un caso che avvenne nel futuro, in cui per un attimo sembrò che i numeri potessero mentire, proprio come le persone.

Fu il famoso caso del modello DB4S.

A quei tempi tutti, scienziati e aziende, avevano ormai rinunciato alla IA, l’intelligenza artificiale, per puntare su un altro paradigma che sembrava più concreto e a portata di mano: l’IR, l’intuito robotico.

Nonostante il nome sfortunato (gliel’aveva dato un giornalista), l’IR aveva riscosso grande attenzione e sulle sue basi erano state avviate diverse aree di ricerca di successo e in breve anche di produzione industriale. L’idea alla base era piuttosto semplice: l’IA aveva fallito perché si era prefissata l’obiettivo sbagliato, ovvero l’intelligenza umana. Con l’IR invece si riconosceva la necessità di dare forma a un nuovo tipo di intelligenza, altra rispetto a quella biologica, e di permetterle uno sviluppo autonomo, lungo strade che non erano state già percorse dalla natura.

Il salto di qualità nel campo della robotica domestica fu enorme. L’esordio sul mercato dei cosiddetti DB, i DomoBot, diede avvio a una vera e propria rivoluzione. Nel giro di pochi anni nei paesi occidentali una famiglia su tre ne possedeva uno.

Vagamente antropomorfi, ma con un design che non ricercava le sembianze umane, i DomoBot erano economici, funzionali e incredibilmente flessibili. Si adattavano, miglioravano nelle prestazioni e nella comprensione, elaboravano modelli di comportamento adattivo, euristiche per la soluzione di problemi, profili di relazione sociale. Non erano intelligenti, non nel senso umano del termine, ma tutti erano d’accordo nell’ammettere che lo erano “quasi”. Era come se, nella scala dell’intelligenza che conosciamo, a loro mancasse l’ultimo scalino. Bastava una conversazione un po’ più complessa e profonda rispetto a quelle della normale routine quotidiana perché un DB finisse nel vicolo cieco del “Non saprei”, risposta che indicava come il suo sistema avesse raggiunto i confini delle proprie possibilità hardware e software.

Insieme al miglioramento in termini di funzioni e prestazioni, con le generazioni successive di DB anche quei confini intellettuali furono spostati sempre più lontano. L’arrivo dei DB3A fu un punto di svolta. Da un sondaggio del New York Times che fece molto scalpore venne fuori che due terzi dei possessori di DB3 preferiva conversare col proprio DB che con buona parte dei propri conoscenti.

Quando furono lanciati i DB4S qualche giornale titolò “Ecco i nuovi umani”. Era un’esagerazione, ovviamente, ma rispecchiava la campagna promozionale, che non si riferiva più esplicitamente ai DB come domestici, ma li presentava, anche se velatamente, come veri e propri componenti familiari. In realtà più che una trovata pubblicitaria si trattò semplicemente di rispecchiare il sentimento emergente fra la popolazione nei confronti di questi nuovi membri della società.

Le vendite dei DB4S furono impressionanti.

Il caso scoppiò circa 8 mesi dopo il lancio.

A Liverpool una bambina di 6 anni era rimasta da sola in casa con un DB4S, perché i genitori erano usciti per alcuni impegni. Una situazione del genere era ormai all’ordine del giorno in milioni di case, perché i DB erano, fra le altre cose, ottimi babysitter, e il loro livello di sicurezza era dichiarato ai limiti dell’infallibilità, e comunque superiore a quello garantito dalla presenza di umani.

Il DB4S stava cucinando. La bambina gli girava attorno ripetendo a voce alta le tabelline, che giusto in quei giorni stava imparando a scuola. Arrivata a quella del sette la bambina propose al DB di dire insieme a lei la tabellina, per essere sicura di non sbagliare. Il DB obbedì e iniziarono all’unisono. Sette per uno sette. Sette per due quattordici. E via così.

Sette per sei quarantadue, disse lei.
Sette per sei quarantasei, disse il DB.

La bambina si fermò un attimo. Poi ripartì.

Sette per sei quarantadue, disse lei.
Sette per sei quarantasei, disse il DB.

Sicuro?, chiese la bambina.
Sì, rispose il DB.

Ma alla bambina non tornava, così andò a prendere il suo pad scolastico e controllò.

Quando i genitori tornarono a casa la trovarono che prendeva in giro il DB perché non sapeva le tabelline.

Non ci volle molto perché lo scandalo scoppiasse. Anche perché non si trattava di un difetto di quell’esemplare in particolare. Tutta la serie DB4S, il top della gamma nel campo dei DomoBot, sbagliava quella semplice moltiplicazione. A tutti portava quarantasei.

La casa produttrice decise di non ritirarli dal mercato, ne consigliò però a tutti i possessori un utilizzo limitato alle funzionalità di base, almeno fino a quando la situazione non sarebbe stata chiarita. Per calmare l’opinione pubblica e venire incontro alle pressioni governative e degli azionisti fu istituita una commissione pubblica di esperti per fare luce sul problema e trovare rapidamente la soluzione.

Milioni di righe di codice furono passate al pettine in cerca di qualche bug. Ne furono trovati alcuni di poco conto, ma non erano quelli a causare il problema. Fu smontato e analizzato l’hardware fino a livello atomico. Niente.

Il paradosso, evidenziato da tutti gli esperti, ma che suonava ovvio praticamente a tutti, era che il DB, per quanto sofisticato e complesso, rimaneva sempre e comunque una macchina matematica. Il fatto di sbagliare un’operazione così basilare avrebbe dovuto quindi inficiarne il funzionamento a tutti i livelli, rendendolo praticamente inutilizzabile. Invece funzionava a meraviglia, a parte quel macroscopico tragico errore di calcolo.

La soluzione, estremamente semplice e incredibilmente complessa allo stesso tempo, giunse così com’era emerso il problema, cioè dal normale utilizzo.

Potete già immaginare quanti possessori di DB4S, dopo aver saputo di quel difetto, si erano divertiti a far emergere il bug chiedendo al loro DomoBot la tabellina del sette e facendosi grasse risate sentendo quel “quarantasei”. In rete i meme e le gag legati a quella vicenda avevano superato per numero qualsiasi altro fenomeno precedente.

Così, dopo circa un mese e mezzo dall’inizio di quella vicenda assurda, in India, a Bangalore, ne fu scritto il capitolo finale. O molto più probabilmente fu scritto l’incipit di un’altra lunga e interessante storia.

Uno studente di psicologia fece al DB4S che aveva in casa la solita domanda: quanto fa sette per sei? Il DB rispose quarantasei, ovviamente, ma lo studente non si fece quattro risate considerandolo un errore. Gli pose anzi un’altra domanda. Una domanda che in quei quasi cinquanta giorni nessuno aveva posto a uno dei tanti DB4S sparsi per il mondo.

Perché fa quarantasei?
Perché sto mentendo.

Share on FacebookTweet about this on TwitterShare on TumblrShare on Google+

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *