Inteligencia Artificial: ¿Qué pasa si algo sale mal?

La tecnología se está desarrollando a una velocidad, intensidad y amplitud que nos encontramos en una etapa que ha sido definida como Industria 4.0. Una de las tecnologías con un crecimiento que algunos definen como exponencial es la inteligencia artificial, especialmente en la vertiente de machine learning o aprendizaje de las máquinas. Me refiero al aprendizaje que permite que las máquinas se adapten y aprendan sin programación explícita para ello.

Existen muchas aplicaciones del aprendizaje de máquinas: en la toma de decisiones financieras, en diagnósticos médicos, en reconocimiento de imágenes, en reconocimiento de voces o en vehículos autotripulados, por poner unos ejemplos. Pero, ¿Qué pasa si la tecnología no responde como se espera? ¿Qué pasa si una máquina autoriza el acceso a una persona por su voz a una base de datos que no debería conocer o utilizar? ¿Qué pasa si un vehículo toma una “mala decisión” y mata a una persona? ¿Cómo se distribuye la responsabilidad?

La respuesta a esas preguntas se relaciona con el marco legal y los contratos celebrados para poder deslindar responsabilidad. Pero la realidad es que el marco jurídico mexicano no ha elaborado mucho sobre la asignación de responsabilidad civil o penal a alguien por el mal funcionamiento de una tecnología que aprende y se adapta por si misma. Ante ese problema, las empresas pueden enfrentar importantes riesgos.

Las tecnologías se están desarrollando a una velocidad tal que todavía no hay marco jurídico que logre adaptarse al ritmo. Los contratos, en muchas ocasiones, versan sobre los servicios de desarrolladores de tecnología, las contraprestaciones, los aspectos de propiedad intelectual, pero poco dicen sobre como se deslindarían responsabilidades en caso de que algo salga mal.

En México tenemos un esquema de responsabilidades civiles contractuales y extracontractuales que podría servir como marco para generar algunas cláusulas contractuales que pudieran mitigar riesgos por responsabilidad civil en el futuro. En realidad, el análisis de riesgos legales relacionados con la tecnología parece clave para evitar sorpresas en el futuro. Encontrar un proveedor de servicios legales que pueda mitigar esos riesgos presenta un reto triple.

Por un lado, es necesario que el proveedor de servicios legales conozca muy bien el marco legislativo tradicional y, por otro, es necesario que identifique los aspectos de funcionamiento de las tecnologías que se vinculan con los conceptos legales ya existentes. Todo ello en un marco de principios que han venido desarrollando organizaciones internacionales (OCDE y ONU, por ejemplo) o autoridades regionales como las de la Unión Europea.

El reto es generar un entorno legal que permita que las empresas de tecnología tengan mayor confianza al invertir, desarrollar proyectos y ponerlos en uso de consumidores. Si deseas conocer más sobre este tema, no dudes en contactarnos.