Iván meza Ruiz
Ilustración: Gastón González
Los sistemas basados en inteligencia artificial buscan ayudarte a tomar decisiones en todas las actividades de tu vida. Esos mecanismos van moldeando a nuestras sociedades. ¿Y quién define lo que es correcto o no en esos sistemas? ¿Cómo garantizar el cumplimiento de los derechos humanos a nivel nacional e internacional? En este ensayo se propone la creación, desde las universidades, de Comisiones y Comités de Ética en Inteligencia Artificial encargados de definir principios de buenas prácticas en el campo. Sofía Trejo será conferencista de nuestro programa de formación Futuros Aumentados.
En la última década ha habido una revolución en el campo de Inteligencia Artificial (IA) que ha hecho posible transferir productos de investigación y desarrollos tecnológicos a diferentes campos de aplicación como el reconocimiento facial, la traducción automática y el reconocimiento de voz [1]–[3]. En particular, la digitalización de las comunicaciones y la expansión del acceso al internet han puesto estos avances literalmente en la palma de nuestras manos a través de los dispositivos móviles. Por ejemplo, hoy en día es muy común usar traductores automáticos en nuestro celular y con ellos descifrar mensajes en idiomas diferentes al nuestro. Hasta la década pasada, la IA y los métodos asociados a esta tecnología eran desarrollados de manera incremental en múltiples laboratorios en universidades alrededor del mundo. Con el advenimiento de las técnicas basadas en redes neuronales (también denominadas deep learning) los ciclos de investigación, desarrollo, producción y adopción han disminuido en duración y aumentado en frecuencia [4]. Por ejemplo, tomó a Google Translate un año portar las metodologías de redes neuronales que estaban siendo investigadas en 2015 para ponerlas a disposición de sus usuarios a mediados de 2016. Aunque esto en teoría supone buenas noticias para los ciudadanos digitales, la prontitud con que se hacen las investigaciones, conjugado con el alcance multitudinario que tienen estas tecnologías, apuntan a que necesitamos mecanismos formales basados en preceptos éticos para regular y mitigar los impactos negativos que los sistemas basados en IA tienen en nuestra sociedad.
Sistemas basados en Inteligencia Artificial
Los sistemas basados en IA son sistemas computacionales, como lo son las hojas de cálculo, los editores de texto, las bases de datos, los sistemas de nóminas o las páginas de internet. Este tipo de sistemas, al igual que los ejemplos pasados, son ejecutados por computadoras y tienen una utilidad específica. A diferencia de otros sistemas computacionales, uno basado en IA tiene como fin la toma de decisiones y además, se espera que la decisión tomada tenga un efecto en el mundo real en diferentes niveles. Por ejemplo, existen sistemas de IA que deciden comprar o vender acciones en el mercado de valores [5]. En este caso la decisión a la que llega el sistema de IA se espera tenga un efecto directo, promoviendo o descartando la compra de acciones, en algunas ocasiones miles de veces por segundo. En otros sistemas de IA, la decisión tomada es para el consumo de las usuarias; por ejemplo, existen sistemas de IA que emiten recomendaciones de productos, lecturas, películas, noticias, etc. [6]. Finalmente, existen sistemas de IA que toman decisiones a bajo nivel como parte del proceso para producir una salida que será consumida por otro sistema. El reconocimiento de voz automático es un ejemplo de este tipo de sistema. Las decisiones tomadas por en sistema de reconocimiento automático de voz producen una transcripción del audio. Posteriormente esta transcripción puede ser utilizada como entrada por otro sistema, como para realizar una búsqueda en internet [7].
Es deseable tener sistemas que tomen decisiones por nosotros dado su potencial de facilitarnos aspectos de nuestra vida cotidiana. Sin embargo, no hay que confundirlos con meras herramientas. Al caracterizarlos como herramientas negamos su propiedad más definitoria que es su capacidad de actuar en el mundo, es decir, son sistemas con un nivel de agencia. En este sentido, los sistemas basados en inteligencia artificial toman decisiones en situaciones “reales”. Es cuando este ciclo se cierra que los sistemas son de mayor beneficio para nosotros. Por ejemplo, los sistema de IA que detecta si un correo electrónico es de spam o no, son útiles hasta que son aplicados a los correos que llegan a nuestra bandeja; el efecto es tener orden en nuestros correos y por ende en nuestras vidas digitales. Sin embargo, es precisamente la agencia de sistemas de IA que resalta la importancia de analizar los impactos derivados del uso masivo de estos sistemas.
Seguir leyendo: Anfibia
