“Podría ser cierto. Que la ciencia actual ha probado, más allá de toda duda, que no hay nada único en mi hija, nada que los instrumentos de nuestra ciencia moderna no puedan extraer, copiar y transferir. Que los seres humanos llevan viviendo juntos muchísimo tiempo, siglos, amándose y odiándose, y resulta que todo se basa en una premisa errónea. Una suerte de superstición que hemos ido manteniendo mientras nuestros conocimientos no iban más allá” Kazuo Ishiguro (Klara y el sol) Las invenciones, vale decir, los productos del ingenio humano, han acompañado durante toda su existencia al homo sapiens, que es tal precisamente porque se caracteriza, entre otras cosas, por una avanzada capacidad cognitiva así como por la habilidad de crear, desde objetos puramente ornamentales hasta ocurrentes utensilios o herramientas para hacer más llevadera una determinada tarea o labor (al respecto, véase la reconocida obra de Yuval Noah Hariri, titulada “Sapiens. De animales a dioses. Breve historia de la humanidad”).
Claro está que el salto de un anzuelo hecho de hueso en el período Paleolítico superior a un vehículo autónomo o a la aparición de robots, el Internet de las cosas (Internet of Things - IoT) y los modelos generativos de Inteligencia Artificial (IA) como Stable Diffusion, ChatGPT o Dall-E, debe reconocerse como algo cuando menos impresionante (para algunos incluso preocupante, más por las posibles consecuencias negativas que por la evolución que dicho salto supone).
Ahora bien, de igual modo no puede más que ponerse de manifiesto en estas líneas que el surgimiento de nuevas tecnologías, invenciones, aparatos o máquinas, puede hacer surgir a lo interno de la sociedad, así como en el ámbito de los operadores jurídicos, la cuestión relativa a la regulación de su uso, si bien aquí se considera que a ese respecto debe actuarse de forma comedida y relativizar de alguna forma la pretendida “necesidad” de una regulación exhaustiva y detallada.
En el año 2016 el autor de esta breve contribución tuvo ocasión de presentar una conferencia titulada “Nuevas tecnologías, crímenes de guerra y principios del Derecho Internacional Humanitario”, en el marco de las Jornadas sobre Derecho Penal Internacional y Derechos Humanos organizadas en Caracas por la Universidad Católica Andrés Bello. Una de las cosas que se resaltaban en dicha conferencia era la pregunta acerca de si era necesario adoptar un nuevo Convenio de Ginebra para regular todo lo atinente al uso de drones y sistemas de armas autónomas (autonomous weapons systems); ante lo cual se respondió que no (y, de hecho, a día de hoy, año 2025, no existe un quinto Convenio de Ginebra que aborde tal temática).
La razón de tal respuesta tenía que ver con el hecho, entonces, de que no toda nueva tecnología requiere obligatoriamente una regulación total o exhaustiva, si bien en algunos casos ello pudiera ser recomendable respecto de ciertos aspectos. Así, por ejemplo, piénsese en lo que supuso en su momento la aparición de los vehículos automotores, gracias al Benz Patent-Motorwagen en 1886. Quizá en los tiempos de los primeros automóviles habría quien estuviera tentado a pensar que debían regularse legalmente, por ejemplo, los supuestos en que una persona causara la muerte de otra al atropellarla con su vehículo, como ocurriera en el recordado caso de San José Gregorio Hernández, santo venezolano que precisamente muriera de tal forma en 1919.
En realidad, el causar la muerte por atropello, aunque no estuviera previsto en el Código Penal vigente para aquellos tiempos un supuesto de “homicidio utilizando un vehículo”, claramente podía subsumirse en la fórmula genérica de “causar la muerte”, sin que fuera necesario mencionar el medio utilizado en el caso concreto. Así, aunque en su momento la invención del automóvil resultó algo sorprendente, se trataba de la creación de una nueva herramienta, medio o “utensilio”, uno más, aunque de gran relevancia, en la historia de la humanidad.
Entretanto, continuando con el ejemplo de los vehículos, sí resultó necesario crear nuevas regulaciones antes inexistentes, tales como las relativas a los límites de velocidad, por lo que, se insiste, algunos aspectos de las nuevas tecnologías pueden efectivamente requerir una regulación con la que previamente no se contaba.
De un tiempo a esta parte es evidente que uno de los temas vinculados a las nuevas tecnologías y su incidencia o impacto en lo jurídico es el de la Inteligencia Artificial (IA), la que ha venido avanzando de forma importante si bien todavía se encuentra en desarrollo y se desconoce hasta dónde podrían llegar sus avances, puesto que, incluso, se hace la distinción entre una IA débil y una IA fuerte (distinción expuesta ya en 1980 por John Searle según se refiere en la obra “Künstliche Intelligenz”, de Bert Heinrichs, Jan-Hendrick Heinrichs y Markus Rüther).
Brevemente, dicha distinción alude a que la IA débil (la efectivamente existente en la actualidad) se refiere a sistemas que están diseñados para el cumplimiento de labores concretas, con un alcance limitado en consecuencia y sin capacidad de pensar o sentir como un ser humano. Entretanto, la IA fuerte, también llamada Inteligencia Artificial General (de momento de naturaleza teórica o hipotética), en cambio, sería plenamente equiparable a la mente humana, ostentando una total capacidad y autonomía para pensar y sentir, e incluso tener consciencia de los otros y de sí misma (como se observa en la novela “Klara y el sol” de Kazuo Ishiguro, en la que Klara es una ginoide – término femenino equivalente al masculino androide – dotada precisamente de una IA fuerte, capaz de sentir empatía y hasta esperanza).
De otra parte, como ha dicho recientemente George F. Luger en su libro “Artificial Intelligence: Principles and Practice”, dado su alcance y ambición la IA desafía cualquier simple definición, por lo que acaso podría decirse provisionalmente desde esta modesta contribución que aquella puede ser entendida como los sistemas creados de tal modo que puedan emular o imitar habilidades, comportamientos y razonamientos humanos tales como la resolución de problemas, la interpretación visual o discursiva así como el aprendizaje.
Teniendo presente todo lo anterior puede afirmarse que no todo lo relativo a la IA amerita una específica regulación, siendo que en no pocos casos aquella puede ser vista simplemente como un medio o herramienta con el cual puede realizarse algo, pudiendo esto ser lícito o ilícito, incluso delictivo. Así, por ejemplo, si un grupo de delincuencia organizada utiliza la IA para simular voces y conversaciones de personas a los fines de contactar telefónicamente (o incluso emular imágenes para realizar videollamadas) a otras y así conseguir que estas realicen una transferencia de dinero, aunque en el Código Penal no se establezca específicamente un delito de estafa mediante uso de IA debe considerarse de forma bastante notoria que se trata efectivamente de un delito de estafa, con todos y cada uno de sus elementos; simplemente se tratará de una estafa “sofisticada”, pero estafa al fin y al cabo.
Entretanto, ciertamente hay aspectos que sí requieren una regulación, como sería el relativo al uso de mecanismos de IA para la recolección de datos biométricos e identificación de las personas sin su consentimiento, que pudieran ser empleados posteriormente de manera tal que dichas personas resulten afectadas o discriminadas, por ejemplo, calificándolas como posibles delincuentes conforme a una pretendida predicción de la IA basada en el perfilamiento o en la evaluación de rasgos de personalidad (como de hecho se encuentra regulado, desde 2024, en el Reglamento Europeo por el que se establecen normas armonizadas en materia de IA).
Otra consideración que desea plantearse desde estas líneas es que la IA puede ser entendida como una contribución en la tarea de mitigación de riesgos, y por lo tanto ser de utilidad en el marco de los sistemas de gestión de Compliance; pero también puede ser vista como algo que más bien genera o crea riesgos.
En efecto, se sabe que en la actualidad se encuentran disponibles diversas herramientas de IA que pueden facilitar la realización de actividades propias del Compliance, por ejemplo, SymphonyAI para ejercer la debida diligencia del cliente (client due diligence), o WorkFusion para agilizar las tareas de prevención del blanqueo de capitales o el monitoreo de sanciones y transacciones.
Pero entretanto, como se decía, la IA también puede generar riesgos, que entonces deben conocerse, analizarse y gestionarse debidamente. Basta a los efectos de esta contribución mencionar dos de esos riesgos.
Uno de los riesgos es el correspondiente al mal llamado (porque es un antropomorfismo) fenómeno de “alucinación” (hallucination). Y es que se observa que la IA puede llegar a “alucinar”, vale decir, arrojar o brindar a manera de output información imprecisa, por ende errónea, porque opera según probabilidades y no necesariamente cuenta con la calidad y cantidad de entrenamiento de datos respecto de todos los objetos de conocimiento posibles. Esto puede conllevar que se tomen decisiones con base en una información imprecisa que procede una alucinación de la IA.
Un segundo riesgo es el atinente al uso de vehículos autónomos, tema sobre el cual quien suscribe dictó un curso en 2023. En ese sentido, es notorio que un vehículo que carece de un conductor que efectivamente se encuentre dirigiéndolo de manera continuada, puede, por ejemplo debido a una deficiencia en la programación y entrenamiento de la IA que se le ha incorporado, ocasionar un accidente, incluso conllevando la lesión o muerte de seres humanos (algo que, en efecto, ya ha ocurrido). A ese respecto será fundamental un efectivo y adecuado control de calidad de los vehículos autónomos y los sistemas que les hacen funcionar para mitigar los riesgos de colisiones y, por lo tanto, de lesión o muerte de la personas involucradas en ellas.
Como se ha procurado mostrar en esta breve contribución la IA ha llegado para quedarse y es por lo tanto de gran importancia conocer de qué se trata esta innovación tecnológica todavía en desarrollo y que cada vez se hace más presente, incluso en materia de Compliance en que, como se indicó previamente, puede constituir una herramienta provechosa pero también algo capaz de generar o crear riesgos que, también concerniendo esto al Compliance, habrán de ser debidamente gestionados.