Ètica robòtica al volant

Aquest post es va publicar al Blog de Cultura Digital el passat 9/11/2016

Ètica robòtica al volant

"La velocitat no és qüestió de cavalls al motor, sinó de burros al volant". El Perich, Autopista.

Cap als anys 50's Isaac Asimov va començar a escriure una sèrie de novel·les que tenien per protagonistes els robots i la seva relació amb els humans. Estem parlant de "Jo, robot"i de la Trilogia dels Robots (formada per "Les bòvedes d'acer", "El sol nu" i de "Els robots de l'Alba") essencialment.

Ja se sap que les màquines les carrega el diable; aleshores, per assegurar el benestar dels humans i, desenganyem-nos, per garantir-ne la seva acceptació, caldria estar ben segurs que nosaltres controlem en el fons les accions dels robots i que aquests no maquinarien, mai més ben dit, en contra de nosaltres. Va ser aleshores que Asimov es va treure de la màniga les famoses Tres Lleis de la Robòtica que qualsevol robot duu implantades al més pregon del seu cervell positrònic alimentat per energia atòmica. Què diuen aquestes lleis?

1. Un robot no pot fer mal a un ésser humà o, per inacció, permetre que un ésser humà prengui mal.
2. Un robot ha d'obeir les ordres dels éssers humans, excepte si entren en conflicte amb la primera llei.
3. Un robot ha de protegir la seva pròpia existència en la mesura que aquesta protecció no entri en conflicte amb la primera o la segona llei.

Amb això podem estar ben segurs que aquestes maquinotes treballaran sempre per i només per al nostre benefici. Estem salvats. Sobre aquestes tres premisses hi ha força relats curts i novel·les que s'hi recreen per al gaudi del lector àvid de reptes lògics (si no ja ètics) i de paradoxes...

En aquesta línia de raonament, un dels debats d'un llibre concret rau al voltant de què passa si un ser humà comença a maquinar i treballar en benefici propi, i en detriment de la humanitat? Què passa si un robot és capaç d'entendre aquesta amenaça, no a un ésser humà, si no al conjunt de la humanitat. En aquest cas, Asimov fa que un robot, privilegiat entre els seus semblants, capaç d'entendre la diferència entre humà i humanitat i conscient de la tragèdia que se'ns cau al damunt (literàriament), s'inventi i s'autoimplanti, per damunt de les Tres Lleis de la Robòtica, la Llei Zero:

0. Un robot no pot fer mal a la Humanitat o, per inacció, permetre que la Humanitat prengui cap mal.

La qual li permet by-passar les tres lleis menys precedents... I carregar-se un humà per salvar la humanitat. Pim pam #spoiler.

Deixem la literatura i tornem al mon real, a l'actualitat. Estem en vies d'inventar la "conducció autònoma". O sigui, que un robot condueixi el nostre cotxe, que prengui decisions sobre la ruta, el trajecte, els cops de volant... Que s'anticipi als accidents. I si son inevitables que minimitzi danys. I si també son inevitables, que minimitzi pèrdues de vides... I, es clar, ha sortit el senyor "què fem amb la llei zero?" i ens planteja el dubte existencial: i si per minimitzar pèrdues de vida, el robot al volant decideix que és millor sacrificar la nostra, amos del cotxe, que la de més d'un vianant? O d'un sol vianant però millor persona que nosaltres? O més jove i amb més oportunitats? O més gran i amb més experiència... O el més ric, que ja ha sortit avui un twit catxondo que explica que Mercedes programarà els seus cotxes amb la prioritat de salvar la vida del conductor davant de qualsevol alternativa...

Arribats a aquest punt, jo crec que com a mínim hauríem de debatre dues o tres cosetes... La primera: si Asimov va inventar-se les Tres Lleis per als seus robots, per què no les podem aplicar al cervellet dels nostres assistents de conducció? Així garantim que les màquines treballaran en igualtat de criteris i sempre per al nostre benefici. I ja que parlem de benefici... Com evitem que el benefici primi a la resta de vides humanes? Com garantir que tots els cotxes vetllen per els mateixos valors i no prioritzin a uns o altres en funció del preu del cotxe? Home... Jo crec que tot el sistema de lleis va encaminat a aquest fet. Podràs fiar-te o no del sistema legal/judicial, però aquí el cotxe autònom no afegeix ni treu res a un debat que ja existeix amb les petrolieres, la obsolescència programada o les farmacèutiques de la nostra monja més mediàtica, per citar només un exemple.

La segona: què fem amb la llei Zero? Què passa si el cervell del cotxe , en cas d'incident o accident avalua riscos i escenaris i arriba a la conclusió que el mal menor és la nostra mort?... Ooopss... Sobe el paper és encomiable, pero a nivell més pragmàtic què vol dir, o qui pot decidir que una vida val més que una altra? Dos delinqüents valen mes que un filàntrop? Quants adults val un nen? O a l'inreves? Crec que hi ha molta llana per cardar encara abans de debatre si una màquina pot decidir o no qüestions de tant calat... Dubto que nosaltres mateixos puguem decidir... Imagina't una màquina!

I tercera: crec que seguim pensant com humans. Estem fent prendre decisions a les màquines pensant com humans. Què vol dir que una màquina ha d'avaluar els danys davant un imminent accident? No es més raonable dedicar tots els recursos computacionals a preveure l'accident i a evitar-lo? Segur que és més fàcil que recalentar el cervell positrònic amb debats ètics!

Avaluem les estadístiques (poques) que tenim ara per ara. En tots els accidents  entre cotxes 'humans' i cotxes 'autònoms' el 100% eren deguts a "errors humans" (menteixo, un era degut a un error d'apreciació del robot d'un TESLA  que no va veure un cotxe en un encreuament perquè un llum brillant va provocar errors als càlculs i calibratges del sistema, per tant és un problema de perfeccionament de la tecnologia no de debat ètic). No és més fàcil imaginar un futur on el 100% dels cotxes autònoms circulen sense accidents que en uns robots que perden el temps minimitzant les victimes del proper pinyo?

No se... Aqui ho deixo... #digueu-meingenu pero realment crec que estem més davant d'una oportunitat que d'una amenaça. Me'n refiaria d'un cotxe autònom? Ara crec que és prematur, però un mon on tots els cotxes condueixin sols em sembla més segur que el mon actual amb humans al volant. Recordeu El Perich...

@jibonet

De l'"Smart City" a la ciutat innovadora

Darrerament ja portem un temps omplint-nos la boca  amb el nou paradigma de gestió eficient de les ciutats, l'Smart City; però què és realment una Smart City? Quan podem dir que una ciutat és Smart? No crec que haguem d'entrar ara en definicions i contra definicions però no veig malament apel·lar per un moment a la intuïció: és fàcil pensar que una ciutat smart  és una ciutat que fa les coses millors per poder viure-hi millor o, si som ambiciosos, fer les coses senzillament bé.

La ciutat més antiga, segons ens diuen els historiadors, és Ur. Se sap que aplegava força gent des de  fa més de 6.000 anys, i en els seu període de més esplendor va arribar a reunir unes 65.000 persones ( una mica menys que Sant Cugat...  =8-)  ).  És a dir, fa 60 segles, un munt de gent va decidir viure plegats perquè així s'organitzaven millor, feien millor les coses, ... vivien millor. Segons hem dit abans, podríem dir que Ur va ser la primera Smart City?  Jo crec que si, s'ho mereix. El concepte Smart és inherent a City. Per que aleshors ens vantem avui en dia de treballar per fer les ciutats Smart?

El que si és, a totes llums, totalment cert és que avui en dia disposem de prou eines, eines tecnològiques, per a fer realitat el que temps abans era un somni , o inclús era de fet inimaginable. I d'aquesta manera és que ens hem trobat que hem acabat definint una smart city com aquella ciutat que usa la tecnologia per a que els seus ciutadans visquin millor, no? ... Tant de bo fos així. Crec honestament que encara estem  en una fase en que estem convençuts que només pel fet de fer servir la tecnologia ja estem dissenyant una ciutat Smart.

 La majoria de projectes smart que s'han dut a terme han consistit en aplicar tecnologia a una solució vertical concreta: la recollida de la brossa; l'enllumenat dels carrers; el reg de les zones verdes; el consum d'energia als edificis; ... Hem transformat aquests reptes ciutadans en més eficients, més barats, més sostenibles fent-los més espavilats. I està molt ben fet, però encara no em fet la ciutat en smart. Ens cal encara compartir la informació entre els serveis, cal tenir una visió holística de la ciutat, breaking silos!

Però, per damunt de tot, el més important de tot per a que la ciutat sigui smart, és que no oblidem l'objectiu primer, la motivació inicial de tot aquest embolic: viure millor, millorar la qualitat de vida a la ciutat, del ciutadà. I ara que ja ho hem dit, com ho fem? Com  viurà millor el ciutadà? Potser que li preguntem, no?

Aquest, jo crec, és el repte per convertir la ciutat en smart: innovar, fer noves coses per acomplir els reptes que la ciutadania ens demana. Ens cal escoltar i empoderar la ciutadania, identificar les seves necessitats, definir nous reptes i dur-los a termini entre tots. La ciutat intel·ligent té ciutadans intel·ligents que donen idees i que es resolen de forma innovadora entre tots. 

Què en penseu vosaltres? Què faríeu per canviar la ciutat? Què faríeu per millorar-la? Si voleu convertir-vos en smart citizens que treballen per fer una smart city, ajudeu-nos a saber que voleu per viure millor. 

@jibonet

Aquest article el va publicar la Regidora de Comunicació, Govern Obert i Innovació de l'Ajuntament de Sant Cugat, Joana Barbany, al TOT Sant Cugat la setmana del 12/02/2016

Supercomputacio i Big Data, son el mateix?

 Marenostrum, BSC, Barcelona


Deia Andy Warhol que “al futur, tot el mon serà famós durant quinze minuts; tot el mon hauria de tenir dret a quinze minuts de glòria”. El corol·lari d'aquest teorema vindria a dir que cada dos per tres hi ha una nova etiqueta que es posa de moda. I avui en dia l'etiqueta de moda, el trending tòpic, és “Big Data”. També és usual il·lustrar qualsevol menció al tema amb referències a la supercomputació; però, és realment el mateix? I si no ho és, què les vincula i què les diferencia?

Hi ha problemes fàcils i problemes difícils; això ja ho hem anat aprenent des de primària. Però hi ha problemes que, tot i ser conceptualment fàcils, són inabastables pel volum de dades que cal manipular per resoldre'ls. Calcular el moviment parabòlic d'un projectil, d’un cos sòlid i rígid és fàcil, té una formulació senzilla i coneguda; però calcular el moviment de totes i cada una de les seves molècules, encara que les regeix la mateixa fórmula, ja no ho és. O el moviment de tots els àtoms d'una molècula orgànica súper llarga, com l'ADN; o de tots els estels d'una galàxia; o el flux a través dels carrers de Barcelona del pol·len de soja que descarregaven fa unes hores al port i que s'escampa deixant un rastre de gent esternudant... això ja no és fàcil. Molts càlculs, i massa llargs.

I ara què fem? Doncs a grans càlculs, supercomputadors. Sabíeu que la predicció metereològica va ser un dels primers reptes de la supercomputació? #spoiler   Les equacions que regeixen el temps atmosfèric son prou conegudes, però la solució no és fàcil d’obtenir, i estar calculant durant 6 hores quin temps farà d'aquí a tres hores... #fail   Per poder abordar aquests problemes, doncs, es van construir els primers ordinadors capaços de fer molts càlculs amb moltes dades en molt poc temps.

A grans trets i sense necessitat d'aprofundir gaire, hi ha dues maneres de fer un supercomputador: un de gran i molt ràpid; o molts de petits treballant col·laborativament en paral·lel. Darrerament aquesta és la tendència en disseny de supercomputadors, ja que assoleix resultats molt millors amb esforços aparentment menors. Afegim-hi les capacitats de les xarxes de telecomunicacions de darrera generació i resulta que avui en dia no cal confinar un superodinador en cap cambra blanca, sinó que el podem tenir distribuït en un edifici... o un campus... o inclús un continent. Però això ja son figues d’una altra panera.

Només per tenir unes quantes dades. El concepte de supercomputació canvia cada pocs anys; si tenim en compte la llei de Moore, segons la qual, cada dos anys som capaços de duplicar el volum de transistors en un xip, és fàcil de suposar que cada dos anys hem de ‘duplicar’ la definició. Diguem que avui en dia un superordinador té capacitat de fer més d’1PF (1 PetaFlop, 1.000 TeraFlop, 1 milió de GigaFlop... digues-li com vulguis... una passada de flops o de càlculs per segon)... i creixent.

Anem pel Big Data. Què volem dir amb Big Data que no ho inclogui el que ja hem dit? El concepte, tot i que també és conegut des de fa temps, ha eclosionat darrerament amb la consolidació de la Internet, en general, i de les smart cities, en particular.

   

Gartner va definir (2012) Big Data com "un conjunt  d'actius d'informació de gran  Volum , gran Varietat i que convien a gran Velocitat que requereixen eines innovadores i eficients en temps  i cost capaces de processar la informació per millorar-ne la comprensió i la presa de decisions.”

Segons IBM (2014) el 90% de les dades que hi ha avui en dia al mon s’han generat en els darrers 2 anys... i d’això probablement en té la ‘culpa’ internet. El repte és, d’una banda, saber quantes i quines d’aquestes dades ens son útils, les podem convertir en informació i, de l’altra, com ens poden ajudar a prendre decisions. Decisions per a què? Doncs per a gestionar de forma smart una ciutat, per exemple.

La supercomputació doncs, és una solució, mentre que el Big Data és un problema, però no per això l'un i l'altre tenen un vincle causal. La supercomputació no és la solució, o si més no, no és tota la solució al problema del Big Data, sinó només un dels capítols.

@jibonet