809.547.1602

INICIAR SESIÓN

logo
INICIAR SESIÓN
mobile logo

Desafíos y regulación de la inteligencia artificial generativa en la toma de decisiones corporativas

DMAC > Legal  > Desafíos y regulación de la inteligencia artificial generativa en la toma de decisiones corporativas
18 septiembre
0 Comentarios

Desafíos y regulación de la inteligencia artificial generativa en la toma de decisiones corporativas

Escrito por Andrea Stefan Soto
En Legal

Resumen: Este escrito explora el uso de la inteligencia artificial generativa en el ámbito empresarial, destacando la necesidad de emplearla de manera ética y eficaz para sacar provecho a la misma como también la necesaria modificación legislativa dominicana para su implementación. El uso de esta herramienta permite modernizar y agilizar las operaciones empresariales, mejorando la gestión de riesgos, la transparencia y la eficiencia en la toma de decisiones del consejo de administración. 

Palabras claves: Inteligencia artificial generativa, gobierno corporativo, consejo de administración, decisiones, transparencia, seguridad, protección de datos, riesgos, datos, plan de contingencia, responsabilidad, sesgo, ética.

A lo largo de la historia, las revoluciones industriales han traído consigo innovaciones que han transformado el mundo. Desde la mecanización en la primera revolución industrial hasta la automatización en la tercera, cada avance ha desplazado ciertas formas de trabajo manual y ha creado nuevas oportunidades laborales. Sin embargo, la inteligencia artificial generativa (IAG) representa una transformación sin precedentes. A diferencia de las revoluciones anteriores, que se centraron en sustituir el trabajo físico, la IAG tiene el potencial de reemplazar tareas cognitivas, intelectuales y creativas. Este cambio radical plantea nuevos desafíos legales, éticos y regulatorios que deben ser abordados de manera específica.

Durante este año 2024 sobre todo, hemos visto la implementación masiva de la IAG en distintas aristas de nuestras vidas. Desde el mercadeo hasta la política, la IAG se ha estado utilizando para maximizar procesos y realizar tareas que el ser humano no puede llevar a cabo en el tiempo récord y en la forma que esta tecnología permite. La IAG ha revolucionado diversos campos y el empresarial, no ha sido la excepción. En este escrito, nos adentraremos en las implicaciones de la implementación de la IAG en el ámbito empresarial, explorando las problemáticas que surgen con su uso en decisiones corporativas y soluciones concretas para mitigar los riesgos asociados a ello. 

Como bien se ha estipulado por Deloitte en su Boletín de Gobierno Corporativo, “la IA, con su capacidad de analizar datos, predecir tendencias y automatizar procesos, está impactando la forma de operar de las empresas.” De igual forma, KPMG afirma en su artículo “Supervisión de la IAG por parte de Directorio” que “Una ligera mayoría de directores (51%) afirma que sus compañías están explorando activamente las capacidades que ofrece la IAG mediante proyectos piloto selectivos y pruebas de concepto. Casi el 20% de los directores afirman que sus compañías (las primeras en adoptar la IAG) han empezado a aplicarla ampliamente en sus operaciones, y el 4% considera que la tecnología ya es fundamental para sus operaciones empresariales”.

No podemos ignorar tal impacto, sin embargo, podemos usarlo a nuestro favor tomando las previsiones necesarias para utilizar la IAG de forma ética y correcta en el ámbito empresarial. En lo que respecta a la IAG, es una rama avanzada de la inteligencia artificial que se centra en la creación de contenido nuevo y original, a partir de datos existentes. Utiliza algoritmos avanzados, a menudo basados en redes neuronales profundas, para generar texto, imágenes, música y otros tipos de datos que imitan la creatividad y el ingenio humano. A diferencia de los algoritmos primitivos, que realizan tareas específicas basadas en reglas predefinidas y datos históricos, la IAG tiene la capacidad de generar datos nuevos y novedosos a partir de patrones aprendidos durante su entrenamiento.

La IAG se basa en modelos avanzados como redes neuronales generativas y transformadores. Las Redes Generativas Antagónicas (GANs) consisten en dos redes neuronales que compiten entre sí: una generadora y una discriminadora. La red generadora crea contenido nuevo, mientras que la red discriminadora evalúa la autenticidad del contenido generado. A través de este proceso competitivo, ambas redes mejoran, resultando en contenido generado que es indistinguible del contenido real. Por otro lado, los modelos de transformadores, como GPT (Generative Pre-trained Transformer), utilizan mecanismos de atención para procesar y generar texto o imágenes. Estos modelos son entrenados con grandes cantidades de datos y pueden comprender y generar lenguaje natural de manera muy coherente.

La diferencia principal entre la IAG y los algoritmos primitivos radica en su capacidad creativa, flexibilidad y complejidad. Mientras que la IAG puede crear contenido nuevo y original y adaptarse a diversas tareas, los algoritmos primitivos se limitan a realizar tareas específicas y repetitivas basadas en reglas predefinidas y datos existentes, acercándose cada vez más, de esta forma, la IAG a las características que tenemos los seres humanos.

Ahora que entendemos un poco lo que es la IAG, veamos el impacto de la incorporación de la misma en la toma de decisiones empresariales. La implementación de la IAG permite la modernización y agilización de las empresas, implica una mejoría en múltiples áreas, como en la gestión de riesgos, en la centralización, transparencia, organización y análisis de la información y en la automatización de procesos lo que garantiza un uso eficiente del tiempo y una mejoría en la toma de decisiones empresariales, de la mano de un gobierno corporativo formado por profesionales afines al tipo de empresa. Sin embargo, es esencial considerar una serie de precauciones y regulaciones para asegurar una implementación segura y efectiva. 

Uno de los principales desafíos es la transparencia y la posibilidad de poder explicar cómo se toman las decisiones a través de los algoritmos generativos, lo que ocasiona desconfianza y posibles conflictos legales. Por ello, es crucial que la Ley de Sociedades Comerciales Dominicana, 479-08 modificada por la 31-11, sea adecuada para que exija la implementación de modelos explicables y el mantenimiento de documentación detallada de su funcionamiento. También, es importante promover la transparencia interna, informando a las partes involucradas sobre el uso de estos sistemas. Las decisiones arrojadas a través del uso de la IAG deben ser comprensibles y rastreables. Para ello, las empresas deben ser capaces de explicar cómo se llega a una decisión específica, y de forma objetiva, y por eso deben realizarse auditorías regulares y se debe tener un registro detallado de todas las decisiones tomadas a través de la implementación de la inteligencia artificial. La rendición de cuentas es fundamental para el bienestar de una empresa, conforme a las mejores prácticas de gobierno corporativo, especialmente en sectores regulados donde se exige justificación detallada de las decisiones.

Un segundo desafío que presenta la inteligencia artificial generativa es la protección de la privacidad y de datos.  La IAG debe operar dentro de los marcos legales vigentes, especialmente en lo que respecta a la privacidad y protección de datos. Para el ámbito de la República Dominicana, implica acatar lo estipulado en la Constitución Dominicana y la Ley No. 172-13, que establece un marco jurídico para la protección de los datos personales y la regulación de su tratamiento.  Dado a que los sistemas de IAG requieren gran cantidad de datos para entrenar sus modelos, las empresas deben asegurarse de que sus prácticas de recopilación y procesamiento de datos cumplan con las regulaciones de privacidad existentes y de contar con el consentimiento adecuado establecido por la ley. Es importante que todos los datos estén protegidos contra accesos no autorizados, para evitar fugas de información y divulgación de datos confidenciales neurálgicos para el funcionamiento de una empresa. Contar con cláusulas en los contratos con el personal y con los fabricantes de la IAG con respecto a la protección de datos y el manejo de la misma, es un paso esencial, como también contar con la seguridad de que dicha información siempre pertenecerá y será de dominio de la empresa, prohibiendo su uso a terceros a menos que un organismo público así lo ordene.

Un tercer desafío es que actualmente existe una disyuntiva sobre la responsabilidad en la IAG. Determinar quién es responsable por las decisiones tomadas a través de sistemas de IAG es complejo. Por ello, es fundamental definir políticas claras que establezcan la responsabilidad de cada parte involucrada, que definan el tipo de defecto (de diseño, de fabricación, de información) y crear comités de ética para supervisar el uso de la IAG y que la misma cuente con un filtro antes de ser implementada y divulgada. Esto puede mitigarse a través de la redacción de cláusulas específicas en contratos que delimiten la responsabilidad de los desarrolladores de la IAG, los operadores y los humanos que toman las decisiones que utilizan esta tecnología como también con la redacción manuales de cumplimiento internos para manejo de IAG. 

Y un cuarto desafío es que la IAG toma decisiones basadas en los datos que se le proporcionan. Por ello, mientras más datos, mejor, y mientras más precisos sean los mismos, de igual forma más enfocadas serán las decisiones. Si estos datos están sesgados, las decisiones de la IAG también lo estarán. Por eso, es crucial revisar y filtrar los datos para eliminar cualquier sesgo que puede conllevar eventuales daños a terceros. Además, se deben implementar procedimientos para monitorear continuamente los resultados de la IAG y asegurarse de que no esté perpetuando o exacerbando desigualdades en el ambiente empresarial.

Para adaptar el uso de la IAG en las empresas dominicanas y mitigar los desafíos planteados en este escrito, es necesario considerar ciertas modificaciones a la Ley de Sociedades Comerciales No. 479-08, modificada por la Ley 31-11, con el fin de incluir esta figura en la normativa y controlar su uso en aquellas empresas que decidan utilizarla. Entre estas modificaciones se sugieren:

  1. Definición y Marco Legal: Incluir una definición amplia de la IAG y modificar los artículos relativos a las gerencias y consejos de administración para permitir la inclusión de sistemas de IAG como miembros no humanos, siempre que haya mayoría impar de miembros humanos y siempre que la empresa cuente con la normativa necesaria para su control. 
  2. Responsabilidad y Supervisión: Incluir regulación por las decisiones tomadas con la participación de la IAG, incluyendo supervisión humana, penalidades y responsabilidad compartida entre los miembros humanos y el sistema de IAG. Incorporar requisitos de auditoría regular de las decisiones tomadas por la IAG y la necesidad de códigos éticos específicos para su uso, garantizando el cumplimiento de leyes de privacidad y derechos humanos.
  3. Capacitación y Procedimientos: Establecer la obligación legal de que los miembros del consejo de administración reciban capacitación continua sobre el funcionamiento y limitaciones de la IAG. Crear procedimientos para el manejo de datos sensibles y la implementación por etapas de esta tecnología.
  4. Organismo de Supervisión: Proponer la creación de un organismo o dependencia dentro de la Cámara de Comercio y Producción, encargado de supervisar el registro y cumplimiento de la normativa que regule la IAG, con el objetivo de salvaguardar y mitigar los desafíos identificados.
  5. Expertos en Tecnología: Obligatoriedad legal de que exista en el consejo de administración o en la gerencia un experto en tecnología e IAG. No basta con utilizar la herramienta dentro de los procesos de las empresas, sino que aquellos que ejercen la gobernanza y tienen un deber fiduciario para con las empresas, entiendan la herramienta y se cercioren de que la misma cumple con los estándares de seguridad y tecnología. 
  6. Plan de Contingencia: Establecer la implementación de un plan de contingencia ante posibles errores de la IAG. Este plan debe incluir procedimientos para desactivar rápidamente la IAG, revertir decisiones incorrectas y mitigar cualquier daño causado.

A modo conclusivo y de resumen, la integración de la inteligencia artificial generativa en las decisiones corporativas presenta tanto oportunidades como desafíos. Los problemas legales y regulatorios son complejos, pero pueden ser abordados mediante una combinación de normas éticas, modifiaciones legales, auditorías, regulaciones adaptativas y capacitación continua. Un consejo de administración o gerencia de una empresa que integra la IAG de manera segura y efectiva, y un país con regulación moderna que aborde este tipo de herramientas, puede preveer y mitigar conflictos que se avecinan. Actualmente, ya existen empresas que están utilizando la IAG en sus quehaceres diarios, y es por ello que urge la revisión de la normativa legal vigente en la materia para su adaptación y para la creación de límites que nos permitirían mantener a la IAG de aliado y no de enemigo. 

La IAG puede transformar y revolucionar las operaciones gerenciales y sólo mediante un enfoque proactivo y holístico se podrán mitigar los riesgos y aprovechar al máximo estos beneficios que la IAG supone. Las empresas y los países que naveguen estos desafíos con éxito estarán mejor posicionados para liderar en un futuro cada vez más impulsado por la inteligencia artificial.

[1]   Rol del Consejo de Administración frente a la Inteligencia Artificial, Boletín de Gobierno Corporativo, Octubre 2023, Deloitte Napoleón Estévez Lavandier, Ley No. 834 de 1978, Comentada y Anotada, Edit. Manatí, 2004, P. 213.

[2]   Supervisión de la IAG por parte del Directorio: valor para el negocio, barreras de seguridad y gobierno corporativo. Recuperado de: https://assets.kpmg.com/content/dam/kpmg/ar/pdf/2024/supervision-de-la-iag-por-parte-del-directorio.pdf 

[3]  Goodfellow, I., Bengio, Y., & Courville, A. (2016). Deep Learning. MIT Press. (Capítulo 20: «Generative Models»).

[4] Redes Generativas Antagónicas: la IA que crea obras de arte desde cero, recuperado de: https://www.iebschool.com/blog/redes-generativas-antagonicas-tecnologia/ 

[5] So whats the difference between AI, GAI, ML, LLM, GANs and GPTs? Por Nick Cropp, recuperado de: https://www.linkedin.com/pulse/so-whats-difference-between-ai-gai-ml-llm-gans-gpts-nicholas-cropp/ 

Bibliografía:

  • “Daños ocasionados por sistemas de inteligencia artificial” por Susana Navas Varro, colección “Derecho de la sociedad de la información” dirigida por Pedro Grimalt Servera y Julián Valero Torrijos, Editorial Comares.
  • Algorithmic entities, Lynn M. Lopucki, Washington University Law Review, Vol. 95:887 
  • Rol del Consejo de Administración frente a la Inteligencia Artificial, Boletín de Gobierno Corporativo, Octubre 2023, Deloitte 

Goodfellow, I., Bengio, Y., & Courville, A. (2016). Deep Learning. MIT Press. (Capítulo 20: «Generative Models»).