1. Introducción
Los avances tecnológicos globales están entrando en una fase transformadora con el surgimiento de la Inteligencia Artificial (IA), que presenta oportunidades y desafíos sin precedentes. Han surgido diferentes enfoques que reflejan diferentes orientaciones ideológicas y estratégicas a medida que las principales potencias mundiales luchan por utilizar plenamente la IA. China adopta una postura de dar prioridad al Estado y utiliza la IA para promover su seguridad estatal y su alineación ideológica. 1 Ejemplos de esto incluyen el establecimiento de un sistema de crédito social y el uso generalizado de políticas predictivas. 2 Estados Unidos, por otro lado, adopta una estrategia basada en el mercado, confiando en las fuerzas del mercado para regular las aplicaciones de IA en lugar de promulgar legislación federal. Mientras tanto, la Unión Europea promueve una estrategia basada en derechos que enfatiza la protección de los derechos individuales en el dominio digital y está tipificada en el Reglamento General de Protección de Datos (GDPR) y la Ley de la UE que pronto entrará en vigor. A pesar de estos enfoques definidos, África debe lidiar con las implicaciones de tecnologías emergentes como la IA sin una filosofía clara y sin un plan bien pensado para integrar la IA en los marcos sociales, lo que expone al tercer mundo a resultados problemáticos.
2. Panorama general de los principales enfoques
2.1. El enfoque de protección del Estado liderado por el Estado de China
China pone un fuerte énfasis en el control y la intervención del Estado para determinar la dirección del desarrollo tecnológico dentro de sus fronteras, como lo demuestra su enfoque de la IA en el que el Estado es lo primero. La estrategia toma la forma de varios mecanismos destinados a garantizar la alineación con las prioridades estatales y consolidar la autoridad estatal sobre las aplicaciones de IA. Un ejemplo bien conocido es el uso del crédito social y la vigilancia policial predictiva como instrumentos para imponer el control social y fortalecer la seguridad del Estado.
De manera similar, el enfoque estatalista de China se refleja en su marco regulatorio de IA. Por ejemplo, la ley de IA generativa de China establece las condiciones para la gobernanza de la IA, poniendo especial atención en los intereses del Estado. Por ejemplo, el objetivo del Estado de inculcar conformidad ideológica en las tecnologías de IA se refleja en el requisito de que los sistemas generativos de IA funcionen dentro de limitaciones que sean consistentes con los valores fundamentales socialistas. 3 Además, la ley destaca el papel principal del Estado en la regulación de las aplicaciones de IA al imponer obligaciones a los proveedores de servicios, los soportes técnicos y los usuarios para garantizar que el contenido generado por IA cumpla con los imperativos de seguridad nacional y social. 4
Aunque el control centralizado y la alineación con los objetivos nacionales se ven facilitados por el enfoque de China de dar prioridad al Estado en la gobernanza de la IA, también plantea interrogantes sobre la responsabilidad, la transparencia y los derechos individuales, que se mencionan en la ley, 5 pero rara vez se aplican cuando son contrarios a interés del estado. El entorno regulatorio, que está marcado por un alto grado de censura e intervención estatal, genera preocupación sobre cómo se podría inhibir la innovación y la libertad de expresión. Además, el énfasis puesto en la conformidad ideológica en el desarrollo de la IA puede sofocar la innovación y la diversidad de puntos de vista, impidiendo que la IA alcance su máximo potencial como herramienta para el avance de la sociedad. Además, la invasión de la privacidad y la autonomía individual son enigmas éticos planteados mediante el uso de la IA para el control y la vigilancia social, lo que suscita críticas de defensores de los derechos humanos y observadores internacionales.
2.2. América: el enfoque impulsado por el mercado
La orientación basada en el mercado de la gobernanza de la IA en Estados Unidos se caracteriza por su énfasis en minimizar la intervención gubernamental y promover la innovación a través de dinámicas de libre mercado. La estrategia está en línea con el compromiso de larga data de la nación con el liberalismo económico y la fe en la capacidad de las fuerzas del mercado para impulsar el avance social y tecnológico. 6 La ausencia de una legislación federal extensa diseñada específicamente para las tecnologías de IA es una de las características definitorias del enfoque estadounidense de gobernanza de la IA basado en el mercado. Estados Unidos ha optado por abordar las cuestiones relacionadas con la IA de forma más gradual, dependiendo de organizaciones autorreguladoras y evitando la ley federal sobre regulación de la IA. Este minimalismo regulatorio surge de la idea de que una intervención gubernamental excesivamente entusiasta puede obstaculizar la innovación y reducir la capacidad de las empresas estadounidenses para competir en el mercado global de IA.
En este sentido, el gobierno de EE.UU ha publicado principalmente directrices, principios y estándares voluntarios para dirigir el desarrollo y la aplicación de tecnologías de IA, en lugar de regulaciones estrictas. La Casa Blanca ha publicado algunas órdenes ejecutivas y documentos de políticas, por ejemplo, que describen pautas generales para el desarrollo de la IA. Estas directrices incluyen fomentar la innovación, salvaguardar los valores estadounidenses y garantizar la confianza del público en los sistemas de IA. De manera similar, organizaciones como el Instituto Nacional de Estándares y Tecnología (NIST) han publicado estándares y pautas voluntarias para la ética de la IA para fomentar el desarrollo y la aplicación responsable de la IA sin apenas aplicar requisitos regulatorios onerosos. Cuando las medidas de cumplimiento han sido evidentes en los EE. UU., generalmente ha sido desde una perspectiva basada en el mercado, como la actual investigación de la Comisión Federal de Comercio (FTC) contra OpenAI.
El enfoque estadounidense basado en el mercado para la gobernanza de la IA tiene posibles desventajas y desafíos, a pesar de ofrecer beneficios como flexibilidad, innovación y competitividad de la industria. La ausencia de salvaguardias sólidas en materia de privacidad, protección de datos y responsabilidad algorítmica es una gran preocupación, ya que puede erosionar la confianza pública y hacer que los riesgos de implementar IA (como el sesgo, la discriminación y las violaciones de los derechos civiles) sean aún más graves. Además, depender demasiado de normas voluntarias y de autorregulación puede dar lugar a una supervisión y aplicación desiguales, creando lagunas a la hora de abordar nuevas cuestiones relacionadas con la IA y garantizar un acceso justo a sus beneficios.
2.3. El enfoque de la UE basado en los derechos
El desarrollo y la aplicación de tecnologías de IA deben respetar los valores democráticos, las normas éticas y los derechos fundamentales, el enfoque de la UE basado en los derechos para la gobernanza de la IA. 7 La estrategia refleja el compromiso de la UE de proteger los derechos humanos y la democracia, la privacidad, la no discriminación, la dignidad humana y la apertura, al tiempo que fomenta la competitividad económica y la innovación en un marco para el desarrollo responsable de la IA. Su objetivo es proteger los derechos individuales, promover la confianza y garantizar la rendición de cuentas en el ecosistema de la IA. La UE ha consagrado su enfoque basado en los derechos en varios instrumentos legislativos, marcos políticos e iniciativas regulatorias.
Además, el enfoque de la UE basado en los derechos para la gobernanza de la IA está respaldado por su dedicación a la creación de normas, la colaboración y la cooperación globales. La UE colabora activamente con socios, partes interesadas y organizaciones internacionales para promover valores, principios y estándares compartidos para la gobernanza de la IA, reconociendo la naturaleza global del desarrollo y la implementación de la IA. Esto implica participar en reuniones como el G7, el G20 y la OCDE, donde la UE promueve la creación de estándares y directrices comunes, así como la adopción de enfoques de gobernanza de la IA basados en los derechos humanos.
2.4. Perspectiva africana: esperar, copiar y pegar (parcialmente) sin una base ideológica definida
La actitud de “esperar y ver” que caracteriza el enfoque de África hacia la gobernanza de la IA se caracteriza por un enfoque reactivo a la adopción y regulación de las tecnologías de IA. Muchos países africanos todavía carecen de estrategias integrales o marcos regulatorios para la gobernanza de la IA, mientras que la Estrategia Continental UA-AI de la Unión Africana (UA) carece de fuerza debido a su falta de impacto legislativo. Más bien, África adopta un enfoque basado en esperar lo que hacen las tres potencias y luego reaccionar o copiar sus enfoques. Por ejemplo, en materia de privacidad de datos, prácticamente todas las leyes africanas de protección y privacidad de datos surgieron después de la aprobación del RGPD y utilizan un lenguaje que se asemeja inquietantemente al RGPD, aunque aún no capturan el RGPD en toda su esencia. 8
Sin embargo, la actitud de “esperar y ver” de África respecto de la gobernanza de la IA presenta serios obstáculos y tiene ramificaciones para el avance de la tecnología y el bienestar de la sociedad. La ausencia de un marco regulatorio para controlar la aplicación de la IA es un obstáculo importante que crea ambigüedad sobre las ramificaciones morales y legales de las tecnologías de IA. La ausencia de directrices y estándares bien definidos puede dar lugar a lagunas regulatorias, una aplicación inconsistente de la ley y una salvaguardia insuficiente de los derechos y libertades de las personas.
Además, el uso de la IA en África expone a las poblaciones a posibles riesgos para su privacidad y sus derechos humanos. En regímenes autoritarios o entornos con un estado de derecho laxo, existe un mayor riesgo de que los sistemas de inteligencia artificial se utilicen para el control social, la vigilancia y las prácticas discriminatorias en ausencia de regulaciones y salvaguardias estrictas. Esto podría exacerbar las desigualdades y vulnerabilidades ya existentes dentro de la sociedad al dar lugar a violaciones de la libertad de expresión, la privacidad y otros derechos fundamentales.
Las preocupaciones sobre la falta de iniciativa e influencia de África en el establecimiento de normas y estándares internacionales para el desarrollo de tecnologías surgen legítimamente de su enfoque pasivo hacia la gobernanza de la IA. Si bien actores importantes como Estados Unidos y China han reaccionado ideológicamente informado al desarrollo de la IA, y la UE ha negociado y creado activamente leyes y políticas de IA, las naciones africanas corren el riesgo de quedar fuera de la corriente principal y volverse dependientes de marcos externos. la industria que tal vez no atienda adecuadamente sus necesidades e inquietudes.
Además, los países africanos pueden enfrentar amenazas existenciales debido a su participación limitada en las iniciativas de gobernanza de la IA y la falta de desarrollos nacionales en materia de IA. La falta de capacidades nacionales de IA expone a África a la explotación económica, la dependencia tecnológica y la marginación en el ecosistema global de IA, a medida que las tecnologías de IA se vuelven cada vez más esenciales para el desarrollo social y la competitividad económica. Además, es posible que África ya esté enfrentando dificultades relacionadas con el desplazamiento de empleos y la creciente desigualdad debido a los posibles efectos socioeconómicos de la IA, lo que enfatiza la necesidad de una participación proactiva y una planificación estratégica en la gobernanza de la IA. Estos factores ilustran la necesidad de un enfoque africano para la regulación de la IA que considere los desafíos únicos del Tercer Mundo.
3. ¿Cómo debería ser un enfoque africano normativo para la regulación de la IA?
3.1. Los derechos humanos como base de la política de IA
Una regulación africana sobre la IA tendría que elaborarse teniendo en cuenta cuidadosamente los desafíos y prioridades únicos que enfrentan los países en desarrollo, y al mismo tiempo garantizar la protección de los derechos humanos, la democracia y los grupos marginados. La primera casilla que debe marcar para un sistema africano de IA es la protección de los derechos humanos y la democracia. Es necesario un enfoque interdisciplinario para proteger la democracia y los derechos humanos en el contexto de la IA. Se debe dar máxima prioridad a la protección de derechos fundamentales como la privacidad, la libertad de expresión y la no discriminación en todas las áreas del desarrollo y aplicación de la IA. Para ello, es fundamental establecer principios y directrices claros. Para evitar posibles abusos de poder y sesgos algorítmicos, esto exige el desarrollo de mecanismos sólidos de rendición de cuentas y transparencia dentro de los sistemas de IA. Estos mecanismos deberían incluir procedimientos de auditoría y mecanismos de supervisión estrictos. Además, los marcos de gobernanza de la IA deben estar profundamente arraigados en principios democráticos, fomentando la participación de las partes interesadas, la participación pública y la toma de decisiones inclusiva. Al incorporar estos principios fundamentales, las regulaciones sobre IA pueden defender eficazmente los derechos humanos y los principios democráticos, garantizando que se obtengan los beneficios de la innovación en IA y minimizando al mismo tiempo los riesgos para las libertades individuales y los valores sociales.
3.2. Promoción de la inversión y la innovación, y el papel de las políticas en la protección de los marginados
No obstante, es crucial combinar la promoción de la inversión y la innovación con la defensa de la democracia y los derechos humanos, ya que se prevé que la IA tendrá un impacto significativo en varias facetas de la vida social, política y económica. Las naciones del Tercer Mundo deben tomar la iniciativa de establecer incentivos y sistemas de apoyo que fomenten la inversión y la innovación en la investigación, el desarrollo y la adopción de la IA para lograr este difícil equilibrio. Desarrollar talento y capacidades locales para impulsar los ecosistemas de IA a nivel local requiere algo más que atraer inversión extranjera. Para lograr una innovación sostenible en IA, la cooperación entre el gobierno, las empresas y el mundo académico es esencial. Esto se debe a que dicha colaboración hace que sea más fácil compartir recursos, conocimientos y habilidades. Además, fomentar la transferencia de tecnología y los programas de intercambio de conocimientos es crucial para cerrar la brecha digital y mantener a los países en desarrollo por delante de los desarrollados en la carrera por la supremacía de la IA. Las naciones africanas pueden aprovechar el potencial transformador de la IA y al mismo tiempo preservar los derechos básicos y los ideales democráticos adoptando enfoques inclusivos y cooperativos para la inversión y la innovación.
En este contexto, la defensa de las poblaciones marginadas y subrepresentadas se convierte en un factor crucial que está estrechamente relacionado con la promoción de la inversión y la innovación en IA, así como con la defensa de la democracia y los derechos humanos. Es necesario desarrollar políticas e intervenciones específicas que aborden las necesidades y vulnerabilidades únicas de las comunidades marginadas, como las mujeres, los niños, las personas con discapacidad y las poblaciones indígenas. A través de este enfoque, las naciones africanas pueden garantizar el desarrollo y la implementación de la IA inclusivos y equitativos. Además, es crucial reducir el posible daño que las tecnologías de IA podrían causar a los grupos marginados, incluida la pérdida de empleo, la marginación social y la discriminación. Para promover una sociedad más inclusiva y resiliente, es necesario tomar medidas proactivas para proteger el bienestar social y económico de los grupos marginados.
3.3. ¿Cuál es el lugar de los valores africanos en este contexto?
Además, para que los marcos de gobernanza de la IA sean eficaces, culturalmente sensibles y contextualmente relevantes, es imperativo priorizar los valores positivos del continente. Las leyes y políticas que rigen la IA en las naciones del Tercer Mundo deben basarse en sus propias costumbres, valores y normas culturales en lugar de adoptar un enfoque único tomado de los modelos occidentales u orientales. Es necesario reconocer la variedad de puntos de vista y experiencias de vida que se encuentran en África y dar prioridad a soluciones que estén en consonancia con las realidades africanas.
Además, los marcos de gobernanza de la IA deben incorporar los principios de solidaridad, cooperación y autodeterminación para permitir que las naciones en desarrollo se hagan cargo de su destino tecnológico. Para permitir que las naciones en desarrollo aprovechen sus recursos y fortalezas combinados para navegar de manera efectiva las complejidades de la gobernanza de la IA, esto implica promover la cooperación intraafricana, el intercambio de conocimientos y las iniciativas de creación de capacidades. Las regulaciones sobre IA que priorizan los valores positivos del Tercer Mundo no sólo pueden fomentar la diversidad cultural y la tolerancia, sino también un ecosistema global de IA más justo e inclusivo.
3.4. Rechazo de normas impuestas (sin sentido y contraproducentes)
Por último, África debe rechazar las normas impuestas que son contraproducentes y sin sentido al desarrollar sus marcos de gobernanza de la IA. Declarar que África tiene derecho a establecer sus propias normas y estándares de IA es crucial para garantizar que las leyes no se impongan desde fuentes externas sino que se adapten a las prioridades y circunstancias africanas.
Además, proteger los derechos e intereses de las naciones en desarrollo en el campo de la IA requiere promover acuerdos internacionales y políticas comerciales justos y equitativos. Las naciones africanas pueden garantizar que las regulaciones de IA preserven los valores de justicia, equidad y respeto a la soberanía fomentando negociaciones inclusivas y transparentes. Además, para promover la cooperación y la unidad entre las naciones africanas en la navegación por el panorama global de la IA, es imperativo fortalecer las iniciativas de cooperación regionales e intraafricanas. Las naciones africanas pueden mejorar su presencia e impacto en los foros internacionales y fomentar un enfoque más equitativo e integral para la gobernanza de la IA combinando recursos, intercambiando experiencia y coordinando tácticas.
4. Conclusión
El surgimiento de la IA marca el comienzo de posibilidades transformadoras y desafíos para la gobernanza global. Las principales potencias mundiales han adoptado distintos enfoques para la gobernanza de la IA, que reflejan sus orientaciones ideológicas y estratégicas. El enfoque centrado en el Estado de China prioriza la seguridad y el control nacionales, mientras que Estados Unidos adopta una estrategia impulsada por el mercado y la UE enfatiza principios basados en los derechos. Sin embargo, África carece de una filosofía coherente y adopta un enfoque reactivo de “esperar y ver”. La postura pasiva corre el riesgo de dejar a los países en desarrollo vulnerables a la explotación económica y la marginación. Por lo tanto, la legislación sobre IA centrada en África debe priorizar los derechos humanos, fomentar la innovación, proteger a los grupos marginados, defender los valores africanos positivos y rechazar las normas impuestas. Al hacerlo, África puede dar forma a su propio futuro de IA en consonancia con sus necesidades y aspiraciones únicas.
*Claudio Mutua es abogado del Tribunal Superior de Kenia con sede en Nairobi, Kenia. Claudio tiene interés en la intersección entre el derecho y las Tecnologías de la Información (TI).
Artículo publicado originalmente en The Elephant
