IDEAS

Vemos la necesidad de que exista una ética en el desarrollo de la IA

Cristina Sánchez. CEO & Founder de Acuilae

Es un hecho que, con el desarrollo tecnológico que estamos experimentando, la ejecución de multitud de actividades y la toma de muchas decisiones será realizada por sistemas sin presencia ni intervención humana. Creemos necesario asegurar que todos estos sistemas integren un componente ético que les regule y evite, entre otros aspectos, su corrupción.

Un ejemplo: los asistentes virtuales o chatbots van aprendiendo de lo que van interactuando con las personas que lo utilizan. Un uso mal intencionado puede hacer que obtengamos respuestas no adecuadas de esos asistentes. Incorporando ETHYKA, la detección de dilemas, la incorruptibilidad de dichos asistentes o el cumplimiento de las leyes y reglas éticas definidas estaría asegurada, aunque tratáramos de “impulsar” a esos asistentes a la toma de acciones o emisión de respuestas “no adecuadas”.

ETHYKA ha sido pensado y desarrollado para dar solución al problema de toma de decisiones ante dilemas éticos que nos encontramos en diversos ámbitos profesionales, sociales y culturales. Decisiones, recordemos, que son tomadas y serán tomadas (en mayor grado en el futuro) por sistemas automáticos programados.

Somos una empresa de joven creación y todavía no hemos formalizado y publicado internamente un código ético y de cumplimiento legal, pero, por supuesto, la ética y el “buen hacer” en nuestras actuaciones lo consideramos de capital importancia. Si no fuera así y no nos preocupara este aspecto, no habríamos podido definir e impulsar ETHYKA.

Nuestros equipos están formados por profesionales expertos en diferentes áreas, pero sobre todo por personas que creen en su trabajo, en la responsabilidad que las actuaciones de las empresas tienen en nuestra sociedad global, en el compromiso con nuestros clientes y la relevancia de los resultados.

Aspectos éticos a tener en cuenta al desarrollar un proyecto de IA. Ya en algunas universidades de Estados Unidos se está impartiendo una asignatura de Ética a las carreras de tecnología, debido a que lo normal es que, en esta área, “primero se desarrolla y luego se pide perdón”. Pues bien, se han dado cuenta de que hay que poner ética en el desarrollo de la tecnología. Pongámonos en el caso de estudios de datos, en los que el sesgo es la población más desfavorecida, normalmente se eliminaría este sesgo para que no afectase al estudio y sin darnos cuenta, estaríamos incumpliendo con un principio ético.

Creemos que para los casos más fantásticos de aplicación de IA como son los robots, deberíamos asegurar el cumplimiento y empoderar las fantásticas leyes de Asimov:

  1. Un robot no hará daño a un ser humano, ni permitirá con su inacción que sufra daño.
  2. Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entrasen en conflicto con la primera ley.
  3. Un robot debe proteger su propia existencia (como activo valioso que es) en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley.

En Acuilae estamos comprometidos con la creación de un mundo mejor y sostenible mediante la aplicación especializada de tecnologías de Inteligencia Artificial en los distintos sectores empresariales. Nuestros objetivos fundamentales son:

  1. Mejorar el rendimiento de los negocios de nuestros clientes a través de la aplicación de algoritmos de Machine Learning, técnicas de análisis de datos y otras técnicas de Inteligencia Artificial.
  2. 2. Mejorar la vida de las personas a través de asistentes virtuales a sectores de la población que lo necesiten.
  3. Mejorar la eficacia de los trabajadores en su interacción con máquinas. En definitiva, utilizar la tecnología para facilitar la vida del ser humano y su adaptación.

Cómo surge ETHYKA. En qué punto está el proyecto. ETHYKA es un proyecto cuyo objetivo es incorporar la ética en los distintos productos o sistemas que son gobernados con IA (robots, algoritmos, chatbots, asistentes virtuales…) y que nace de la inquietud y el reto que supone dotar de comportamiento ético a los sistemas de IA. Nace con la idea de asegurar el componente ético en todos estos sistemas inteligentes que forman parte del Universo 4.0, que ha llegado como un tsunami y que gobernará nuestras vidas. ETHYKA actualmente es un prototipo que, siguiendo diferentes patrones éticos y morales, criterios de decisión y comportamientos humanos, es capaz de detectar y analizar dilemas para optimizar el funcionamiento de los equipos de Inteligencia Artificial, mejorar sus decisiones y evitar su corrupción.

Actualmente, estamos en fase de prototipo que llevaremos a rondas de inversión para poder crear un producto final en su máxima expresión y alcance.

ETHYKA en el transporte y logística en una empresa. Por poner algún ejemplo práctico de aplicación en estos sectores, ETHYKA, a través de la información que le llegue por cámara (utilizando reconocimiento de imágenes) analiza el comportamiento no ético, como robos, agresiones u otro tipo de circunstancias como colapsos de tráfico, accidentes, urgencias, etc., para determinar la toma de decisiones “éticas” más adecuadas. Siguiendo con los ejemplos, en el ámbito logístico, analizaría las imágenes recibidas, detectando urgencias de carácter material, derramamientos de materias peligrosas, destrucción de materiales, robos, peleas, personal que se queda dormido en el puesto de trabajo… Tras su detección, el módulo avisa de la incidencia al responsable competente, para poner en marcha el protocolo necesario.

Cómo funciona ETHYKA. Para entender ETHYKA hemos establecido un sistema de tres capas:

  1. Primer nivel: Funcionamiento de la ética y moral en el cerebro humano. En este nivel definimos el proceso de la toma de decisiones en nuestro cerebro y las diferentes áreas del cerebro.
  2. Segundo nivel: Funcionamiento de los diferentes componentes de la plataforma ETHYKA y cómo somos capaces de bajar del primer nivel (cerebro) al nivel de procesamiento de módulos técnicos.
  3. Tercer nivel: Bajamos en detalle la plataforma ETHYKA con componentes y módulos de la arquitectura en la que se vaya a desarrollar.

ETHYKA recepciona toda la información que le llega a través de cámaras, audios, sensores, información recibida a través de APPs, Frameworks, etc. Después, reconocerá si existe o no dilema para, posteriormente, analizarla (dependiendo de la ética se vaya a utilizar) y aplicar en la toma de decisiones derivadas unos principios éticos.

¿Es posible “enseñar ética” a las máquinas? En IA todo es posible con el suficiente conjunto de datos de entrenamiento, es como Google Dooplex, entrenada con conversaciones telefónicas anonimizadas para conseguir, lo que han demostrado, que puede llamar a reservar servicios sin ningún problema.

Si podemos considerar la ética como algo que depende de la persona, del momento, de la educación, de la sociedad y de la cultura, ¿qué ética enseñamos a las máquinas? La ética la aplican las personas, pero no solo depende de las personas, depende de la definición de unas reglas, del análisis de unos comportamientos, de factores socio-culturales y religiosos… La idea es poder parametrizar todo esto y enseñar a las máquinas a cómo tenerlo en cuenta en sus decisiones.

El desarrollo de la IA es imparable y hay muchas preocupaciones acerca de temas como el desempleo, la responsabilidad de las máquinas o la distribución de la riqueza. Creemos que no hay que tener temor, simplemente tenemos que adaptarnos al cambio: claro que se destruirán algunos puestos de trabajo, pero se crearán muchos otros que incluso están por definir. Los grandes avances tecnológicos siempre han tenido este tipo de consecuencias a lo largo del tiempos.El principal desafío ético que supone el desarrollo de la IA es su utilización y diseño por el ser humano con cordura, ética y moral. No como en un articulo que leí hace poco, que los robots nos iban a cazar y a matar. Si el ser humano no desarrolla una máquina que cace y mate humanos, no habrá problemas.

 

Acuilae es una empresa de Inteligencia Artificial. En ella, desarrollamos productos y aplicaciones basados en este tipo de tecnología como ETHYKA, producto innovador que permite implementar la ética en sistemas cuyo funcionamiento está basado en Inteligencia Artificial; o como Elderly, un asistente virtual para personas de tercera edad, pensado para atender sus necesidades.
Nuestro portfolio de soluciones en Inteligencia Artificial es amplio, y va desde el desarrollo y aplicación directa de algoritmos de Machine Learning y Deep Learning, hasta la visualización avanzada de datos, análisis de datos con modelos estadísticos, desarrollo de asistentes de voz, chatbot, machine trainers, etc.

 

Cristina Sánchez

CEO & Founder de Acuilae

 

 

Artículo incluido en el especial sobre IA incluido en el número de octubre de la revista Agenda de la Empresa