ENTORNO TECNOLOGICO
Confía en mí, soy un robot
Ante la llegada de los robots a los hogares y a las oficinas, será vital asegurarse de que no lastimarán a las personas. ¿Pero cómo?
En 1981, Kenji Urada, obrero japonés de 37 años de edad, saltó sobre una valla de seguridad en la planta Kawasaki para llevar a cabo algún trabajo de mantenimiento en un robot. En su precipitación, omitió apagarlo adecuadamente. Incapaz de percibirlo, el poderoso brazo hidráulico del robot continuó funcionando y de manera accidental lanzó al ingeniero a una trituradora. Urada se convirtió así en la primera persona en morir a manos de un robot.
Este aterrador accidente industrial podría haberse evitado en un mundo donde el comportamiento de los robots estuviese gobernado por las tres leyes de la robótica, formuladas por Isaac Asimov, el escritor de ciencia ficción. Las leyes aparecieron en Yo, robot, libro de relatos publicado en 1950 que inspiró una reciente película de Hollywood. Pero décadas después las leyes, diseñadas para prevenir que los robots dañaran a las personas estando activos o inactivos, permanecen en el reino de la ficción.
En efecto, a pesar de la introducción de mejoras en los mecanismos de seguridad, los robots han cobrado muchas víctimas más desde 1981. Durante años han aplastado personas, las han golpeado en la cabeza e incluso les han vertido aluminio fundido. Sólo el año pasado hubo 77 accidentes relacionados con robots en Inglaterra, de acuerdo con la Autoridad Ejecutiva de Salud y Seguridad.
Con los robots listos para salir de sus jaulas industriales e ingresar en los hogares y centros de trabajo, los científicos se preocupan por las implicaciones de seguridad más allá de la fábrica. Para atender estas inquietudes, los principales expertos en robótica se han unido para tratar de encontrar las formas de prevenir que los robots dañen a las personas.
Inspirado en el Movimiento Pugwash -grupo internacional de científicos, académicos y activistas fundado en 1957 para impulsar la no proliferación de armas nucleares-, el nuevo grupo de interesados en la ética de robots se reunió a principios de este año en Génova, Italia, y anunció sus hallazgos iniciales en marzo pasado, durante el Simposio Europeo de Robótica que se celebró en Palermo.
"Seguridad económica, seguridad social y sexo son las principales preocupaciones", expresa Henrik Christensen, director de la Red Europea de Robótica del Real Instituto Sueco de Tecnología, en Estocolmo, y uno de los organizadores del nuevo grupo. ¿Debe permitirse que ingresen a los hogares robots lo suficientemente fuertes o pesados para aplastar a una persona? ¿Un "mal funcionamiento del sistema" puede justificar que un avión de caza robótico, en contravención de la Convención de Ginebra, abra fuego por error sobre civiles inocentes? ¿Debe permitirse el uso de muñecas sexuales robóticas que parecen niñas?
Estas preguntas pueden parecer esotéricas, pero en los próximos años serán cada vez más relevantes, dice el doctor Christensen. Según la Comisión Económica Europea para la Investigación Robótica Mundial, en 2003 el número de robots domésticos y de servicio se triplicó, casi superando a sus homólogos industriales. A finales de 2003 había más de 600 mil robots aspiradoras y cortadores de césped, cifra que, según se prevé, crecerá a más de 4 millones para finales del próximo año. Las industrias japonesas compiten en construir humanoides que actúen como ayudantes domésticos de los ancianos, y Corea del Sur se ha puesto el objetivo de que 100 por ciento de los hogares deben tener robots domésticos para 2020. A la luz de esto es crucial que comencemos a pensar acerca de seguridad y directrices éticas, dice el doctor Christensen.
¿Qué se hace exactamente para protegernos de estas amenazas mecánicas? "No lo suficiente", dice Blay Whitby, experto en inteligencia artificial de la Universidad de Sussex, en Inglaterra. No es sorprendente, dado que el campo de la "computación segura" apenas tiene una década, afirma. Pero las cosas están cambiando y los investigadores se interesan cada vez más en fabricar robots más seguros. Una propuesta, que suena bastante simple, es tratar de programarlos para que eviten cualquier contacto con personas. Pero es más difícil de lo que parece: hacer que un robot camine a través de un salón abarrotado es bastante arduo, aun sin tomar en cuenta todo contra lo que sus extremidades o apéndices pueden chocar en el recorrido.
Luego están los errores imprevisibles. ¿Qué pasaría si el motor de un robot deja de funcionar, o si el sistema falla exactamente cuando está realizando una cirugía de corazón o sirviendo una taza de café? Se puede, claro, ser redundante y agregar sistemas de respaldo, dice Hirochika Inoue, científico veterano de la Universidad de Tokio, quien ahora es inspector general de la Sociedad Japonesa de Promoción de la Ciencia. Pero esto no garantiza nada, afirma. "Es imposible llegar a un ciento por ciento de seguridad mediante la tecnología", explica el doctor Inoue. "Esto se debe a que, a la larga, por muy meticuloso que sea uno, no se puede anticipar la impredecible naturaleza del comportamiento humano", agrega. O, para decirlo de otro modo: por hábiles que sean los robots para sortear a las personas, éstas no siempre se las ingeniarán para evitarlos, y podrían terminar tropezando con ellos y rodando por las escaleras.
¿Dónde quedaron las tres leyes de la robótica de Isaac Asimov? Eran un recurso narrativo y nunca se pretendió que funcionaran en el mundo real, dice el doctor Whitby. Además requerirían que los robots tuvieran inteligencia parecida a la humana, de la cual aún carecen, y las leyes por sí mismas no funcionan muy bien. En efecto, Asimov repetidamente las atropelló en sus relatos de robots, demostrando una y otra vez cómo podrían producir consecuencias no deseadas.
De cualquier manera, dice el doctor Inoue, las leyes en realidad engloban principios de sentido común que ya son aplicados al diseño de la mayoría de los aparatos modernos, tanto domésticos como industriales. Cada tostador, cortadora de pasto y teléfono celular está diseñado para minimizar el riesgo de lesiones, aunque las personas aún se las ingenian para electrocutarse, perder dedos o caer de la ventana por tratar de obtener una mejor señal. Así que, al menos, los robots deben satisfacer las rigurosas normas que cubren los productos existentes. La pregunta es si se necesitan nuevas reglas específicas para ellos, y si es así, cuáles.
"Garantizar que los robots sean seguros será vital", dice Colin Angle, de iRobot, que ha vendido más de 2 millones de robots Roomba para limpieza doméstica. Pero sostiene que los robots de su empresa son, de hecho, mucho más seguros que algunos juguetes populares. "Un coche de control remoto manipulado por un niño de seis años es mucho más peligroso que un Roomba", afirma. "Si uno pisa un Roomba, éste no le hará tropezar: una almohadilla de goma en su base se adhiere al suelo e impide que se mueva. Las regulaciones existentes solucionarán el reto. No estoy aún convencido de que los robots sean lo suficientemente diferentes para merecer un tratamiento especial."
Es probable que la seguridad robótica aparezca en las cortes civiles como un asunto de responsabilidad sobre los productos (mercancía defectuosa). "Cuando la primera barredora de alfombras succione a un bebé, ¿de quién será la responsabilidad?", pregunta John Hallam, profesor en la Universidad del Sur de Dinamarca. Si un robot es autónomo y capaz de aprender, ¿se puede responsabilizar a su diseñador por todas sus acciones? En la actualidad la respuesta a estas preguntas es generalmente "sí". Pero en la medida en la que los robots se hagan más complejos, la respuesta será menos clara, dice.
"En la actualidad ninguna compañía de seguros está preparada para asegurar robots", indica Inoue. Pero eso cambiará. El mes pasado, el ministro de Industria y Comercio de Japón anunció una serie de directrices de seguridad para robots de hogar y de oficina. Deberán contar con sensores que eviten choques con humanos; estar hechos de materiales suaves y ligeros para minimizar el daño si ocurre una colisión, y tener un botón de apagado de emergencia. Lo anterior fue propuesto en una gran exhibición de robots celebrada el pasado verano, que hizo comprender a las autoridades que hay implicaciones de seguridad cuando miles de personas no sólo buscan robots sino se mezclan con ellos, dice el doctor Inoue.
Sin embargo, es errónea la idea de que se popularizarán los robots para todo propósito y capaces de aprender, sugiere Angle.
Todo esto motiva una pregunta. Además de plantear un daño físico, ¿los robots podrían también ser peligrosos para los humanos en formas menos directas, al sacar a flote sus peores aspectos, desde la guerra hasta la pedofilia?
Traducción: Jorge Aanaya