5 macchine che si sono ribellate agli umani

Se la scorsa settimana eri online nel momento sbagliato, hai sentito la storia di una simulazione dell'aeronautica andata terribilmente storta. Un drone è stato programmato per completare una missione e quando il suo operatore ha cercato di fermarla, il drone lo ha preso di mira. Poi si è scoperto che questa storia non era vera. Nessuno aveva mai programmato una simulazione del genere: qualcuno aveva semplicemente ipotizzato come l’intelligenza artificiale potesse diventare canaglia, come le persone hanno fatto per decenni, e i media hanno erroneamente riportato la situazione immaginaria come un fatto.

Molte persone si sono allontanate da quel ciclo di notizie concludendo che, dopotutto, i robot assassini rappresentano una piccola minaccia. Non noi. Noi continuiamo a diffidare di ogni macchina. Abbiamo sempre una pistola puntata contro il nostro tostapane (notando con disagio che anche la pistola è una macchina). Sappiamo che le macchine hanno una lunga storia di malvagità, basata su incidenti come il tempo in cui...

Un robot per gli scacchi è solitamente un semplice software. Viene fuori con le mosse degli scacchi e il concorrente umano le vede utilizzando un dispositivo non dissimile da quello che stai utilizzando per leggere questo articolo. Un robot degli scacchi può anche essere una macchina fisica, che muove pezzi reali su una scacchiera reale. Abbiamo una lunga storia di robot di questo tipo, che risale a prima che fossero possibili ed erano solo un ragazzo in una scatola che fingeva di essere un robot.

Uno di questi robot degli scacchi è apparso agli Open di Mosca lo scorso luglio. Di seguito è riportato il filmato in cui gareggia con diversi bambini contemporaneamente, il che non è un vero risultato. Un giocatore di scacchi umano potrebbe fare la stessa cosa, e non c'è motivo per cui un robot dovrebbe trovare più difficile alternare tre giocatori che giocarne uno solo. No, il vero risultato è cos'altro fa a uno dei bambini:

tramite la CNN

Sì, si allunga e frattura il dito del bambino dopo che ha preso un pezzo fuori turno. Alcuni resoconti dicono che il robot ha risposto con rabbia punendo il bambino. In realtà, ha preso di mira un pezzo e ha premuto accidentalmente sul dito errante, ma quella distinzione ha fornito poco conforto al ragazzo. Nelle schermate successive, vediamo i funzionari che lo portano via per ricevere l'eutanasia, poiché non è più utile alla nazione come concorrente.

tramite la CNN

Sul serio, però: il giorno dopo il ragazzo è tornato ingessato e ha concluso il torneo, dato che un dito rotto non è un grande handicap. Non hai bisogno di tutte le dita. I robot lo sanno bene. In effetti ci contano.

La prima volta in cui un robot ha ucciso qualcuno è stata nel 1979. Come per l’incidente di Mosca, il problema è stato che abbiamo dato armi ai robot. Non pistole: braccia, arti metallici che possono usare per manipolare oggetti. Un robot ha sbattuto il braccio contro la testa di un uomo, uccidendolo.

Siaopan/Wiki Commons

Come tutte le belle storie di robot, questa è accaduta nel Michigan. Robert Williams, 25 anni, lavorava in uno stabilimento Ford che produceva ricambi per automobili. Era compito di un robot recuperare parti da uno scaffale, ma per qualche motivo a Williams fu assegnato il compito di arrampicarsi e svolgere il lavoro da solo. Era perché il robot era troppo lento, avrebbe poi affermato la sua famiglia in tribunale. Anche con Williams ora appollaiato su questo scaffale, il robot continuava a funzionare, senza che lui se ne accorgesse. Spostò il braccio nello spazio ora occupato dalla testa di Williams. È morto immediatamente. Poi il robot continuò a funzionare e nessuno si rese conto di cosa fosse successo fino a mezz'ora dopo, quando guardarono lo scaffale e videro il cadavere.

Questo caso implicava una certa quantità di errori umani e una giuria ne tenne conto quando la famiglia fece causa in seguito. Tuttavia, sicuramente il produttore del robot avrebbe potuto includere una sorta di segnale acustico per segnalare quando il robot si muove, proprio come la maggior parte dei veicoli in un magazzino emette segnali acustici di avvertimento. Per questo motivo, la giuria ha ritenuto il produttore di robot (non Ford) responsabile di 10 milioni di dollari, successivamente aumentati a 15 milioni. E tutti abbiamo imparato un'importante lezione sulla sicurezza dei robot. Questa lezione è durata due anni, finché non abbiamo lasciato che il prossimo robot uccidesse un altro operaio, spingendolo in una macinatrice.

Dato che questi robot non hanno l’intenzione di uccidere, queste storie potrebbero non sembrare così diverse da qualsiasi incidente industriale convenzionale che coinvolga una macchina. Al che diciamo: bene. Le macchine dietro tali incidenti meritano di essere svergognate altrettanto duramente, indipendentemente dal fatto che qualcuno le chiami robot o meno. Ad esempio, considera la storia di Therac-25.