Esta es la mirada de Sara Lara Espinoza (SLE); Francisca Marchessi (FM); Fernanda Pizarro (FP); María del Rosario Letelier (MRL), legal counsel en Fintual, y Renata Jamasmie Chavarri (RJC), jefa de Compliance de Mallplaza.
MRL: 'Chile está tramitando un proyecto de ley de inteligencia artificial (IA) que busca equilibrar la innovación con el resguardo de los derechos fundamentales y el interés público.
La implementación de esta nueva regulación podría ser insostenible para las startups y emprendedores, limitando su capacidad de competir e innovar. Asimismo, la falta de coordinación entre los reguladores, la existencia de múltiples entidades fiscalizadoras (CMF, Agencia de Protección de Datos Personales, Agencia Nacional de Ciberseguridad, Sernac) genera incertidumbre sobre cuáles normas priman y cómo se fiscalizará'.
SLE: 'El Ejecutivo presentó un proyecto de ley para regular los usos de la IA con un enfoque basado en riesgos. Esta propuesta recoge diversos elementos de la normativa europea, además de la agenda internacional y principios consensuados al alero de la Unesco y la OCDE.
La IA otorga muchas oportunidades para las áreas de compliance, por ejemplo, en la elaboración de informes y evaluaciones de riesgos. Sin embargo, también implica desafíos y riesgos para las organizaciones, tales como, la generación de resultados sesgados o discriminatorios, por ejemplo, ante sistemas de IA destinados a contratación o selección de personas para analizar y filtrar solicitudes de empleo y evaluar candidatos'.
FP: 'El concepto de 'sesgo digital' emerge como una nueva barrera, donde la tecnología no solo replica las desigualdades, sino que las intensifica. Este problema cobra especial importancia en startups de base tecnológica, donde la baja participación de mujeres en la creación y diseño de tecnologías contribuye a generar soluciones que no consideran sus necesidades.
Los emprendimientos tienen la oportunidad y la responsabilidad de reconocer los sesgos en sus sistemas y tomar medidas proactivas: atraer talento femenino, fomentar la participación de mujeres en equipos técnicos y liderazgo, y colaborar con instituciones que les permitan crear tecnologías más inclusivas.
Ejemplos como las normativas propuestas en la Unión Europea sugieren que una regulación adecuada puede ser clave para garantizar estándares mínimos. Sin embargo, toda regulación tiene el riesgo de desincentivar la innovación, por lo que siempre será mejor que sean las mismas startups las que adopten una nueva visión, para construir una industria más equitativa'.
FM: 'Nuevas regulaciones, como la Ley de Protección de Datos Personales, son cruciales para encarar uno de los mayores problemas de la IA: los sesgos y la falta de transparencia en sus decisiones. La experiencia internacional ya ha demostrado que estos problemas no son meramente técnicos, sino sociales y legales.
Las startups enfrentan directamente este desafío. Por ejemplo, las fintech, que utilizan algoritmos para evaluar a sus potenciales clientes, prometen democratizar el acceso a créditos y servicios financieros. Sin embargo, si los datos que alimentan estos modelos están sesgados o los algoritmos son opacos, pueden generarse decisiones discriminatorias.
Frente a esta situación, la inteligencia artificial explicable, o XAI, se presenta como una de las soluciones más prometedoras. La XAI permite entender cómo y por qué se toma una decisión. Esta capacidad no solo ayuda a detectar y corregir sesgos, sino que también mejora la relación con los usuarios al generar confianza y transparencia'.
RJC: 'No cabe duda de que los enfoques tradicionales para abordar cuestiones legales son insuficientes para enfrentar los retos que nos presentan las nuevas tecnologías. Nos encontramos en una encrucijada crítica. La IA tiene el poder de transformar nuestras sociedades, pero solo si somos capaces de integrar tres principios fundamentales: privacidad, transparencia y no discriminación. Estos valores no solo son esenciales para regular y desarrollar la IA de manera ética, sino que también son la base para construir una sociedad más justa y equitativa en la era digital'.
