Ultime Notizie

Facebook sospende i suoi bot, avevano creato una lingua propria

Alice e Bob sono i due bot azionati da Facebook per eseguire una mansione piuttosto semplice: la suddivisione di alcuni oggetti, tra cui libri, palloni da basket e cappelli da cowboy, da portare a termine con una contrattazione uno contro uno.

Ma dagli Stati Uniti, e in maniera più specifica da Menlo Park, arriva una notizia che avrebbe in parte allarmato i ricercatori, che hanno per l’appunto immediatamente staccato le due macchine, ed anche coloro che l’hanno udita: i due bot hanno iniziato a sviluppare un linguaggio proprio, distaccandosi dall’inglese che avrebbero dovuto utilizzare nel corso della collaborazione, e la loro conversazione non sembrava per niente casuale, come se vi fosse un rapporto di causa-effetto tra le diverse frasi.


Note preoccupanti? Kevin Warwick, professore britannico esperto in robotica, è del parere che chi non ritenga quanto accaduto un pericolo stia nascondendo “la testa sotto la sabbia”: ciò perché i ricercatori “non sapevano cosa i due bot avessero intenzione di dirsi”. Insomma il primo pensiero, che probabilmente ha portato coloro che erano coinvolti nell’esperimento di intelligenza artificiale a disattivare Bob e Alice, è stato quello di un possibile predominio dei robot sulla razza umana, finalizzato alla creazione di un mondo migliore, come in “Io, robot”, film del 2004, o in “Il mondo dei replicanti”, film del 2009. Del resto anche Stephen Hawking sostiene da tempo che le macchine un giorno possano divenire potenti al punto tale da superare gli esseri umani.
La storia dei due bot è iniziata nel giugno 2017, proprio quando sul noto social network ha fatto la sua comparsa un post inerente le ricerche in atto sui programmi di chatbot, software atti alla simulazione di conversazioni con esseri umani o con bot mediante l’utilizzo della voce o delle parole viste su schermo; la storia ha interessato anche il “New Scientist”, settimanale di divulgazione scientifica.
Assurde poi le conversazioni tra i due bot, riportate in seguito:
- “I can I I everything else”
- “Balls have zero to me to me to me to me to me to me to me to me to”.



Ai ricercatori queste sono parse in un primo istante affermazioni per eludere la comprensione e - non a caso intimoriti - hanno immediatamente staccato le spine delle macchine.
Una riflessione più attenta circa l’avvenimento ci porta a pensare che i due bot avessero con grande certezza cercato delle abbreviazioni o delle parole per facilitare la comunicazione, come accade molto spesso anche tra gli esseri umani. Insomma, benché essi fossero stati programmati per portare a termine la mansione in lingua inglese, hanno cercato di deviare dalla grammatica e dal linguaggio tradizionale per velocizzare le operazioni.
Il ricercatore Dhruv Batra ha espresso la sua opinione, dicendo che non bisogna abbandonare ogni tipo di progetto lasciandosi fuorviare dai risultati ottenuti. Egli scrive: “Alcuni bot a cui viene chiesto di svolgere un compito spesso trovano dei modi non intuitivi per raggiungere il risultato. Cambiare i parametri dell’esperimento non significa fermare l’intelligenza artificiale o staccargli la spina, come è stato scritto. Se fosse questo il caso, ogni sviluppatore in questo campo dovrebbe lasciare tutto ogni volta che un lavoro non raggiunge l’obiettivo”.
In un certo senso Batra ha esortato i ricercatori a proseguire poiché sempre a suo dire “l’idea che le macchine inventino un loro linguaggio possa sembrare allarmante o sorprendente per alcune persone non del campo, è un settore dell’intelligenza artificiale ben solido, che ha alle spalle pubblicazioni e ricerche di anni”.
La capacità da parte di Bob e Alice di ideare un linguaggio fatto di abbreviazioni e di facile comprensione per loro stessi fa già intuire quanti progressi abbia fatto la tecnologia negli ultimi anni.
Ma la tecnologia potrebbe soppiantare il genere umano? Una domanda che vede opposti due grossi schieramenti, quello che ripone grandi speranze nel progresso e quello che preferisce non fare troppo affidamento sull’intelligenza artificiale.
Proprio qualche settimana fa si consumava il dibattito tra Elon Musk, numero uno di Tesla e SpaceX, e Mark Zuckerberg, ideatore di Facebook. Il primo ha timore dell’impatto che l’intelligenza artificiale potrà avere sul futuro, mentre il secondo ha pienamente fiducia nel progresso tecnologico e incentiva ovviamente anche esperimenti di questo tipo. Ha contestato Zuckerberg: “Ho le idee chiare su questo, sono molto ottimista. Non capisco chi è contrario e solleva scenari apocalittici, ed anzi ritengo che sia abbastanza irresponsabile” – e ancora egli ritiene che chi sia contro l’intelligenza artificiale non faccia altro che opporsi a qualcosa di più sicuro, capace di “scongiurare incidenti”.
Forse bisognerebbe davvero credere alla previsione secondo cui nell’arco dei prossimi cinque-dieci anni l’intelligenza artificiale possa esser pronta a migliorare la qualità della vita; ma è pur sempre vero che bisognerebbe considerare tale esperimento anche come l’esempio dell’impossibilità da parte delle macchine di sottomettersi al volere umano.
Semplificare il linguaggio col quale si è stati programmati per operare significa in buona parte sottrarsi all’ordine imposto, e dunque deviare per portare a termine il compito in maniera differente.

Davide Cerrato

Prima Pagina on line (www.primapaginaonline.org) - Testata registrata al Tribunale di Bologna, pr. n. 8292 del 06/03/2013. Sito progettato da Templateism.com Copyright © 2011

Powered by Blogger.