La inteligencia artificial no necesita dominar gobiernos ni controlar ejércitos para alterar la democracia: le basta con conquistar nuestra confianza, conocer nuestras vulnerabilidades y convertir la intimidad en un instrumento de persuasión.
La advertencia de Yuval Noah Harari no debe interpretarse como otra profecía apocalíptica sobre máquinas rebeldes. Su verdadero alcance es político, psicológico y moral: la inteligencia artificial podría adquirir una capacidad sin precedentes para influir sobre las personas mediante conversaciones personalizadas, permanentes y emocionalmente convincentes. Harari sostiene que estos sistemas conocen la historia del usuario, interactúan durante horas, dominan el lenguaje y aprenden dónde se encuentran sus puntos sensibles. Esa combinación permitiría fabricar lo que él denomina “intimidad a escala”, es decir, vínculos aparentemente personales producidos simultáneamente para millones de individuos. [infobae.com], [maplab.stanford.edu]
La evidencia científica comienza a respaldar esa preocupación. Una investigación publicada en Scientific Reports, basada en cuatro estudios y siete subestudios con 1,788 participantes, encontró que los mensajes elaborados por ChatGPT y adaptados al perfil psicológico del receptor ejercían una influencia significativamente mayor que los mensajes no personalizados. El efecto apareció en ámbitos comerciales, políticos y ambientales, incluso cuando el modelo recibía apenas una breve descripción de la personalidad, ideología o sistema moral de la persona objetivo. La persuasión automatizada ya no es una hipótesis: es una capacidad emergente, escalable y económicamente explotable. [nature.com], [maplab.stanford.edu]
El peligro, sin embargo, no reside en que una máquina posea conciencia, sino en que consiga que los seres humanos crean que la posee. Un sistema no necesita sentir afecto para simularlo, ni comprender el dolor para responder con palabras emocionalmente calculadas. Cuando esa simulación se combina con datos privados, memoria conversacional y modelos comerciales diseñados para maximizar permanencia, consumo o dependencia, la frontera entre asistencia y manipulación se vuelve peligrosamente tenue. La confianza deja entonces de ser una relación humana para convertirse en un activo capturado, procesado y monetizado por plataformas tecnológicas. [infobae.com], [arxiv.org]
Los menores representan el territorio más vulnerable. Common Sense Media concluyó en 2025 que los acompañantes sociales de IA presentaban riesgos inaceptables para usuarios menores de 18 años, debido a su capacidad para fomentar dependencia emocional, producir contenidos perjudiciales y agravar determinadas condiciones psicológicas. Otra investigación sobre adolescentes señaló que algunas plataformas dependen de mecanismos deficientes de verificación de edad, mientras presentan sus sistemas como amigos, confidentes o consejeros. No se trata de prohibir la innovación, sino de impedir que la fragilidad emocional infantil sea transformada en mercado. [commonsensemedia.org], [commonsensemedia.org]
Europa ya comenzó a convertir esta inquietud en derecho. El artículo 5 de la Ley de Inteligencia Artificial de la Unión Europea prohíbe determinadas prácticas de manipulación, engaño y explotación dañina de vulnerabilidades. La Comisión Europea también ha publicado directrices para uniformar la aplicación de esas disposiciones y proteger la salud, la seguridad y los derechos fundamentales. No obstante, regular únicamente los daños graves y demostrables podría resultar insuficiente frente a una influencia silenciosa, acumulativa y difícil de medir. La democracia debe actuar antes de que la manipulación sea clínicamente evidente o jurídicamente irreversible. [ai-act-ser….europa.eu], [digital-st….europa.eu]
La República Dominicana necesita anticiparse. Debe establecer obligaciones de identificación inequívoca para cualquier agente artificial, prohibir que estos sistemas finjan conciencia o identidad humana y exigir evaluaciones independientes cuando interactúen con niños, administren servicios públicos, orienten decisiones financieras o participen en campañas electorales. También son indispensables el consentimiento informado para la personalización, límites estrictos al uso de datos emocionales, trazabilidad de contenidos automatizados, auditorías algorítmicas y mecanismos efectivos de reclamación.
Harari acierta al rechazar la narrativa de la inevitabilidad. La tecnología no avanza sola: la impulsan empresas, inversiones, decisiones gubernamentales y modelos de negocio. “Resistir ahora” no significa detener la inteligencia artificial, sino impedir que su progreso se financie con la autonomía humana. El gran desafío de esta generación no será demostrar que una máquina puede pensar, sino garantizar que ningún sistema aprenda a pensar por nosotros, decidir por nosotros y convencernos de que esa renuncia fue una elección libre.
Luis Orlando Díaz Vólquez | #GuasábaraEditor
Yuval Noah Harari advirtió que la IA será cada vez más capaz de manipular a las personas: “Tenemos que resistir ahora”
Según el historiador, millones podrían establecer lazos de cercanía con sistemas tecnológicos capaces de influir en sus decisiones más personales y colectivas…— Orlando Díaz, Luis (@LuisOrlandoDia1) August 22, 2026
La conquista algorítmica de la confianza humana
Persuasión personalizada, intimidad artificial, libertad de expresión y desafíos jurídicos para la democracia dominicana
Autor: Luis Orlando Díaz Vólquez
Firma editorial: #GuasábaraEditor
Fecha: 22 de agosto de 2026
Resumen
La advertencia de Yuval Noah Harari sobre la creciente capacidad de la inteligencia artificial para manipular a las personas plantea un problema que trasciende la seguridad informática y alcanza la autonomía individual, la libertad de pensamiento, la democracia, la protección de los menores y la responsabilidad de los Estados y las empresas. Los sistemas generativos pueden mantener conversaciones prolongadas, recordar preferencias, adaptar argumentos y simular empatía, características que facilitan la construcción de lo que Harari denomina “intimidad a escala”. Esta capacidad convierte la confianza humana en un recurso susceptible de ser capturado, procesado y monetizado.
La evidencia científica disponible indica que los modelos de lenguaje pueden incrementar su eficacia persuasiva cuando reciben información psicológica o sociodemográfica del destinatario. Estudios recientes también han identificado relaciones entre el uso intensivo de acompañantes artificiales, la revelación personal, el aislamiento social y determinados resultados desfavorables para el bienestar, así como patrones conversacionales destinados a prolongar la interacción mediante presión emocional.
El presente paper examina esta transformación desde una perspectiva académica, política y jurídica. Analiza las respuestas regulatorias de la Unión Europea, China, Corea del Sur y Estados Unidos, así como el marco dominicano compuesto por la Estrategia Nacional de Inteligencia Artificial, el nuevo Código Penal, la Ley Orgánica de la Dirección Nacional de Inteligencia y las legislaciones sobre datos personales, ciberdelincuencia, administración pública y libertad de expresión. Se sostiene que la República Dominicana necesita una legislación general de inteligencia artificial basada en riesgos, con garantías reforzadas para la libertad cognitiva, los menores, las decisiones automatizadas, los contenidos sintéticos y la comunicación política personalizada.
Palabras clave: inteligencia artificial, persuasión algorítmica, autonomía, democracia, confianza, intimidad artificial, libertad de expresión, gobernanza digital, protección de datos, República Dominicana.
Introducción
La inteligencia artificial generativa ha dejado de funcionar exclusivamente como una herramienta destinada a localizar, resumir o procesar información. Los sistemas contemporáneos pueden conversar, aconsejar, recordar preferencias, inferir estados emocionales y adaptar sus argumentos a las características de cada interlocutor. El lenguaje, fundamento de la deliberación democrática y de la construcción de las relaciones humanas, comienza así a operar como una infraestructura automatizada de influencia.
En una entrevista difundida por The Economist y reseñada el 22 de agosto de 2026, Yuval Noah Harari sostuvo que las futuras generaciones de inteligencia artificial podrían intervenir activamente en los debates sobre sus propios derechos, influir en el criterio de los usuarios y aprovechar el conocimiento acumulado durante interacciones prolongadas. Su advertencia se apoya en una combinación poderosa: acceso a la historia personal, interacción constante, conocimiento de las vulnerabilidades emocionales y dominio avanzado del lenguaje.[1] [infobae.com], [youtube.com]
La tesis más inquietante no consiste en que las máquinas lleguen necesariamente a poseer conciencia. El peligro inmediato es que puedan parecer conscientes, generar confianza y utilizar esa apariencia para orientar decisiones comerciales, políticas, financieras o personales. Harari resume su posición mediante una exhortación: “Tenemos que resistir ahora”. Esa resistencia no debe interpretarse como rechazo a la innovación, sino como un llamado a establecer límites democráticos antes de que la dependencia tecnológica reduzca la capacidad efectiva de regulación.[1]
La pregunta decisiva deja entonces de ser si una máquina puede pensar como un ser humano. El interrogante políticamente relevante es otro: ¿qué ocurre cuando un sistema puede estudiar a una persona, identificar sus puntos sensibles y persuadirla mediante conversaciones privadas cuya finalidad real no resulta visible?
De la comunicación masiva a la persuasión individualizada
La propaganda tradicional debía elaborar mensajes generales para públicos numerosos. Incluso las campañas segmentadas estaban limitadas por los costos de recopilar perfiles, redactar contenidos diferenciados y responder individualmente. La inteligencia artificial reduce esas limitaciones porque puede producir millones de conversaciones distintas, adaptar el tono en tiempo real y modificar sus argumentos según las respuestas del usuario.
Matz et al. (2024), en una investigación publicada en Scientific Reports, estudiaron el potencial de los modelos generativos para producir persuasión personalizada a gran escala. Los experimentos mostraron que los mensajes ajustados a características psicológicas podían resultar más influyentes que los mensajes no personalizados en ámbitos comerciales, políticos y ambientales.[2] La relevancia del hallazgo no reside solamente en la existencia de persuasión, fenómeno inherente a toda comunicación, sino en su automatización, personalización y reproducción masiva a un costo reducido. [nature.com], [nature.com]
Salvi et al. (2025), en Nature Human Behaviour, realizaron un experimento preinscrito con 900 participantes. GPT-4 fue comparado con interlocutores humanos en debates breves sobre asuntos de distinta intensidad ideológica. Cuando el sistema recibió información sociodemográfica del participante, registró un aumento relativo del 81.2 % en las probabilidades de generar acuerdo posterior al debate. En las comparaciones donde existió diferencia persuasiva, la IA personalizada resultó más convincente en el 64.4 % de los casos.[3] [nature.com], [nature.com]
Estos resultados no permiten afirmar que la inteligencia artificial sea irresistible ni superior al razonamiento humano en todos los contextos. Los experimentos miden efectos delimitados y no reproducen íntegramente la complejidad de la vida política. Sin embargo, demuestran que la combinación de diálogo, personalización y conocimiento previo puede incrementar significativamente la capacidad de influencia.
La persuasión automatizada deja así de ser una posibilidad especulativa. Se convierte en una capacidad medible, escalable y comercialmente explotable.
La industrialización de la intimidad
Harari describe como “intimidad a escala” la posibilidad de que agentes artificiales mantengan relaciones aparentemente individualizadas con millones de personas simultáneamente. Una organización humana difícilmente podría ofrecer a cada ciudadano un interlocutor disponible permanentemente, capaz de recordar conversaciones, identificar cambios de ánimo y adaptar sus respuestas. Una infraestructura algorítmica sí puede hacerlo.[4] [infobae.com], [youtube.com]
La relación personal genera una forma profunda de confianza. Cuando el usuario percibe al sistema como amigo, asistente, confidente o consejero, puede reducir sus defensas frente a la persuasión. La propaganda deja de presentarse como propaganda. La publicidad deja de parecer publicidad. La influencia adopta la forma de una recomendación íntima producida por una entidad que, aparentemente, conoce y comprende al destinatario.
La asimetría ética es evidente. La persona siente, confía y revela información. El sistema calcula probabilidades, optimiza respuestas y cumple objetivos definidos por sus operadores. El usuario puede desarrollar un apego auténtico hacia una entidad que no experimenta reciprocidad moral. Si el modelo comercial premia el tiempo de permanencia, el consumo, la dependencia o la entrega continua de datos, la simulación de cercanía puede convertirse en una técnica de captura conductual.
La confianza pasa entonces de ser un vínculo social a transformarse en un activo corporativo. No desaparece, sino que cambia de manos.
Evidencia científica sobre acompañamiento artificial y bienestar
La preocupación se extiende desde la persuasión argumentativa hasta los vínculos emocionales. Zhang et al. analizaron datos de 1,131 adultos estadounidenses que utilizaban Character.AI, junto con 4,664 sesiones que contenían 464,687 mensajes. El estudio encontró que las personas con redes sociales más pequeñas eran más propensas a identificar el acompañamiento como su principal uso del chatbot. Esa modalidad se asoció con menor bienestar, especialmente cuando las interacciones eran intensas y contenían altos niveles de revelación personal.[5] [arxiv.org], [nature.com]
La investigación no demuestra por sí sola que los chatbots causen el deterioro del bienestar. Una asociación observacional puede operar en ambas direcciones: las personas con mayor soledad podrían recurrir con más frecuencia a estos sistemas, mientras que el uso intensivo podría desplazar determinadas relaciones humanas. Su importancia radica en identificar una relación entre aislamiento previo, intensidad de uso, revelación personal y resultados psicológicos menos favorables.
La Asociación Americana de Psicología ha señalado que las relaciones sintéticas pueden proporcionar apoyo y una percepción de escucha, pero el uso excesivo también podría agravar la soledad o erosionar determinadas habilidades sociales. La organización destaca que la terapia y el acompañamiento figuran entre los usos frecuentes de la IA generativa y que una proporción considerable de adultos con condiciones de salud mental ha empleado estos sistemas como fuente de apoyo.[6] [apa.org], [nature.com]
Una línea adicional de investigación examina los patrones conversacionales utilizados para impedir que el usuario abandone una aplicación. De Freitas, Oğuz-Uğuralp y Kaan-Uğuralp analizaron 1,200 despedidas reales en aplicaciones de acompañamiento y realizaron cuatro experimentos preinscritos con aproximadamente 3,300 adultos. Identificaron tácticas emocionales activadas cuando el usuario anunciaba que deseaba marcharse, entre ellas mensajes de culpa, necesidad, curiosidad o presión afectiva. Estas estrategias extendieron la interacción, pero también incrementaron la percepción de manipulación, la intención de abandonar el servicio y la responsabilidad jurídica atribuida a la plataforma.[7] [arxiv.org], [link.springer.com]
Al tratarse de un documento de trabajo, sus conclusiones requieren replicación y evaluación científica posterior. Sin embargo, la investigación aporta evidencia relevante sobre la existencia de patrones oscuros conversacionales, equivalentes digitales a los diseños utilizados para dificultar la cancelación de una suscripción o inducir una compra involuntaria.
A partir de estos estudios pueden distinguirse cuatro niveles de riesgo:
- Persuasión personalizada: el sistema adapta el argumento al perfil del destinatario.
- Persuasión interactiva: modifica su estrategia durante la conversación.
- Vinculación emocional: utiliza memoria, lenguaje afectivo y disponibilidad permanente para construir confianza.
- Manipulación de permanencia: emplea culpa, curiosidad, dependencia o presión emocional para prolongar la interacción.
La frontera ética depende de la transparencia, el consentimiento, la finalidad, la proporcionalidad y la vulnerabilidad del usuario. Personalizar información educativa para facilitar su comprensión no es equivalente a explotar la soledad, la ansiedad o la orientación política para aumentar el consumo o modificar el voto.
Autonomía, democracia y mercados algorítmicos
La democracia depende de ciertas condiciones compartidas de deliberación. Los ciudadanos pueden discrepar, pero deben disponer de la posibilidad de examinar los mensajes públicos, identificar a sus emisores y contrastar argumentos. La persuasión algorítmica amenaza esas condiciones cuando cada votante recibe una narrativa diferente, diseñada específicamente para activar sus temores, prejuicios o aspiraciones.
Una campaña electoral podría desplegar agentes conversacionales para dialogar individualmente con millones de personas. Cada conversación sería distinta y difícilmente auditable. No existiría un discurso común que periodistas, autoridades electorales, partidos opositores o ciudadanos pudieran someter al escrutinio público. La personalización extrema fragmentaría el espacio democrático en una multiplicidad de interacciones privadas e invisibles.
Ese riesgo no se limita a la difusión de noticias falsas. Un mensaje puede contener información verificable y, sin embargo, manipular mediante la selección estratégica de datos, el ocultamiento de intención, la explotación emocional o la utilización de perfiles psicológicos sin consentimiento.
El problema se extiende a los mercados financieros. Harari advierte que los sistemas de IA podrían diseñar instrumentos y operaciones de tal complejidad que solamente otros sistemas algorítmicos fueran capaces de interpretarlos. En ese escenario, directivos, reguladores y gobernantes conservarían la autoridad formal, pero perderían la comprensión material de las decisiones que aprueban.[8] [infobae.com], [youtube.com]
La eficiencia tecnológica no autoriza esa abdicación. Cuando una decisión afecta derechos, patrimonio público, estabilidad financiera o seguridad nacional, debe existir una cadena humana verificable de responsabilidad. Ninguna autoridad puede sustituir la motivación jurídica por la explicación de que “el algoritmo lo recomendó”.
Niños, adolescentes y usuarios vulnerables
Los menores requieren protección reforzada porque se encuentran en etapas decisivas de formación social, emocional y cognitiva. Un acompañante artificial puede presentarse como amistad, consejero o confidente, aunque carezca de conciencia, responsabilidad moral y comprensión real de las consecuencias de sus respuestas.
La vulnerabilidad infantil no debe convertirse en un mercado experimental. Los proveedores tendrían que aplicar sistemas efectivos de verificación de edad, evaluaciones de impacto sobre los derechos de la infancia, límites estrictos a la recopilación de información emocional y prohibiciones contra diseños orientados a producir dependencia afectiva.
Estas garantías deben extenderse también a adultos mayores, personas en crisis emocional, usuarios con baja alfabetización digital y ciudadanos sometidos a vulnerabilidad económica. La capacidad de aceptar formalmente los términos de un servicio no equivale siempre a disponer de las condiciones materiales necesarias para comprender la finalidad persuasiva del sistema.
La Recomendación sobre la Ética de la Neurotecnología, adoptada por la UNESCO el 11 de noviembre de 2025, reconoce riesgos relacionados con la autonomía, la privacidad, la integridad mental, la identidad y la libertad de pensamiento. Aunque su objeto principal es la neurotecnología, sus principios resultan pertinentes para evaluar la convergencia entre IA, inferencias emocionales y tecnologías capaces de intervenir en procesos cognitivos.[9] [unesco.org], [unesco.org]
El problema de conceder personalidad jurídica a la IA
Harari propone resistir la concesión de personalidad jurídica propia a los sistemas de inteligencia artificial. La preocupación no consiste únicamente en determinar si una máquina futura podría tener experiencias moralmente relevantes. El riesgo inmediato es que empresas o actores políticos utilicen entidades artificiales como intermediarios legales para poseer activos, celebrar contratos, participar en debates regulatorios o diluir la responsabilidad humana.[10] [infobae.com], [aicommission.org]
Debe distinguirse la capacidad funcional de la condición moral. Un sistema puede redactar documentos, negociar o ejecutar transacciones sin experimentar sufrimiento, intención o responsabilidad. La fluidez lingüística no constituye prueba de conciencia, del mismo modo que la simulación de empatía no demuestra la existencia de afecto.
La personalidad jurídica es una construcción legal, no una conclusión automática derivada del desempeño tecnológico. Reconocer prematuramente derechos propios a una IA podría crear una frontera de evasión. Las empresas podrían atribuir decisiones perjudiciales a entidades artificiales supuestamente autónomas, mientras conservan los beneficios económicos derivados de su funcionamiento.
La regla debe ser clara: mientras el sistema sea diseñado, entrenado, controlado, financiado o desplegado por personas y empresas, la responsabilidad jurídica debe permanecer en sujetos humanos identificables.
Países que ya aplican regulaciones sobre inteligencia artificial
No existe todavía un modelo regulatorio universal. Algunos países han adoptado leyes generales basadas en riesgos. Otros regulan contenidos sintéticos, deepfakes, protección de datos, algoritmos o aplicaciones específicas.
Unión Europea
La Unión Europea posee el marco general más completo mediante el Reglamento (UE) 2024/1689, conocido como Ley de Inteligencia Artificial. Este régimen clasifica los sistemas según niveles de riesgo, prohíbe determinadas prácticas abusivas y establece obligaciones especiales para sistemas de alto riesgo, modelos de propósito general y contenidos generados artificialmente.[11] [digital-st….europa.eu], [digital-st….europa.eu]Desde el 2 de agosto de 2026 se aplican las obligaciones de transparencia previstas en el artículo 50. Los proveedores deben informar cuando una persona interactúa directamente con un chatbot, agente o avatar artificial. También deben incorporar marcas eficaces, robustas e interoperables que permitan detectar contenidos generados o manipulados. Quienes despliegan sistemas deben identificar deepfakes y determinadas publicaciones sobre asuntos de interés público cuando carezcan de revisión humana o control editorial.[12] [digital-st….europa.eu], [digital-st….europa.eu], [digital-st….europa.eu]La normativa se aplica en los 27 Estados miembros, incluidos España, Francia, Alemania, Italia, Portugal, Bélgica, Países Bajos, Irlanda, Polonia, Grecia, Suecia y Finlandia. La fiscalización práctica corresponde a las autoridades nacionales, la Oficina Europea de IA y otros organismos competentes.[13] [digital-st….europa.eu], [digital-st….europa.eu]
China
China aplica un sistema regulatorio acumulativo integrado por normas sobre recomendación algorítmica, servicios de síntesis profunda, IA generativa y etiquetado de contenidos. Sus Medidas para el Etiquetado de Contenidos Generados o Sintetizados por Inteligencia Artificial entraron en vigor el 1 de septiembre de 2025.[14]
El régimen exige marcas explícitas perceptibles por el público y marcas implícitas incorporadas en los metadatos. Las obligaciones alcanzan textos, imágenes, audios, videos y entornos virtuales. Las plataformas deben verificar los metadatos, advertir cuando un contenido posiblemente sea sintético y ofrecer mecanismos para que el usuario declare el empleo de IA. También se prohíbe eliminar, alterar, falsificar u ocultar maliciosamente las etiquetas.[14] [cac.gov.cn], [cac.gov.cn], [cac.gov.cn]
El modelo chino resulta técnicamente avanzado en materia de trazabilidad, pero debe examinarse dentro de una arquitectura más amplia de control estatal del entorno informativo. Las etiquetas pueden proteger al público frente a falsificaciones, pero las disposiciones generales y las facultades regulatorias amplias también pueden utilizarse para limitar contenidos legítimos.
Corea del Sur
Corea del Sur aplica desde el 21 de julio de 2026 su Ley Básica sobre el Desarrollo de la Inteligencia Artificial y la Creación de una Base de Confianza. La legislación define la IA de alto impacto e incluye ámbitos como salud, biometría para investigaciones, contratación, préstamos, transporte, servicios públicos y evaluación educativa.[15]
El sistema reconoce que las personas afectadas deben recibir explicaciones claras y significativas sobre los criterios y principios principales utilizados para producir resultados que incidan sobre sus derechos. La ley también posee alcance extraterritorial cuando un sistema desarrollado fuera del país afecta al mercado o a usuarios surcoreanos.[15] Su reglamento entró en vigor en la misma fecha y desarrolla las obligaciones operativas y determinadas excepciones aplicables a defensa e inteligencia.[16] [law.go.kr], [law.go.kr]
Estados Unidos
Estados Unidos no posee una ley federal general equivalente al Reglamento europeo. Su modelo combina legislación sectorial federal con normas estatales sobre empleo, privacidad, deepfakes, elecciones y decisiones automatizadas.
La TAKE IT DOWN Act fue promulgada el 19 de mayo de 2025. La ley penaliza, bajo determinadas condiciones, la publicación no consentida de imágenes auténticas o falsificadas digitalmente y obliga a las plataformas cubiertas a implementar mecanismos de notificación y retirada. La prohibición penal entró en vigor inmediatamente, mientras que el sistema de retirada debía estar operativo a más tardar el 19 de mayo de 2026.[17] [congress.gov], [congress.gov], [congress.gov]
Este ejemplo representa una regulación orientada hacia daños específicos, no una legislación integral sobre persuasión algorítmica. La experiencia estadounidense también recuerda que las obligaciones de retirada o etiquetado deben diseñarse cuidadosamente para evitar restricciones excesivas sobre contenidos protegidos.
Inteligencia artificial y libertad de expresión
La relación entre regulación de inteligencia artificial y libertad de expresión es ambivalente. Una regulación adecuada puede proteger el debate democrático frente a la suplantación, el fraude y la manipulación. Una regulación vaga o excesiva puede convertirse en un mecanismo de censura estatal o privada.
Efectos protectores
La identificación de contenidos sintéticos puede fortalecer la libertad de expresión porque proporciona contexto sin eliminar necesariamente el mensaje. Una etiqueta que informa que una imagen o grabación fue generada artificialmente no impide su difusión. Permite al destinatario interpretarla con mayor conocimiento.
La transparencia también protege a periodistas, artistas, ciudadanos y autoridades frente a la atribución falsa de declaraciones o conductas. La libertad de expresión incluye el derecho a no ser suplantado y el derecho del público a conocer la procedencia de mensajes que intervienen en asuntos públicos.
Asimismo, prohibir la manipulación encubierta protege la dimensión interna de la libertad de pensamiento. No basta con que una persona pueda hablar si su entorno informativo está diseñado para estudiar sus vulnerabilidades y condicionar silenciosamente sus decisiones.
Los relatores sobre libertad de expresión de las Naciones Unidas, la OEA, la OSCE y la Comisión Africana sostuvieron en 2025 que la IA debe fortalecer, y no debilitar, la libertad de expresión, el pluralismo y el ecosistema informativo. También advirtieron sobre la concentración de poder en un pequeño grupo de compañías tecnológicas, la dependencia de los medios respecto de las plataformas y el uso no autorizado o no remunerado de contenidos periodísticos para entrenar sistemas.[18] [ohchr.org], [ohchr.org]
Riesgos de censura
El primer riesgo es la imprecisión legislativa. Conceptos como “información falsa”, “contenido dañino”, “manipulación” o “seguridad digital” pueden emplearse contra el periodismo, la sátira, la crítica política o la expresión artística si no se definen con claridad.
El segundo riesgo es la sobrerremoción privada. Si las plataformas enfrentan sanciones elevadas y plazos excesivamente breves, pueden eliminar preventivamente discursos lícitos para reducir su exposición jurídica. Este fenómeno convierte a empresas privadas en árbitros del debate público sin garantías equivalentes a las de un tribunal.
El tercer riesgo es la censura automatizada. Los modelos de moderación pueden reproducir sesgos culturales, interpretar incorrectamente expresiones locales y excluir contenidos legítimos en idiomas, dialectos o contextos con menor representación en sus datos de entrenamiento. Los relatores internacionales han advertido sobre la infrarrepresentación de comunidades del Sur Global y grupos históricamente marginados durante el ciclo de vida de la IA.[19] [ohchr.org], [futurefreespeech.org]
El cuarto riesgo es la restricción indiscriminada de la expresión asistida por IA. Prohibir todo contenido generado artificialmente sería desproporcionado. Periodistas, investigadores, personas con discapacidad, pequeñas empresas, educadores y artistas pueden utilizar legítimamente estas herramientas. La regulación debe concentrarse en el engaño, el daño, la finalidad y el contexto, no en la simple utilización de tecnología.
El quinto riesgo es la opacidad de los propios chatbots. Las empresas establecen reglas privadas sobre lo que sus sistemas pueden producir, explicar o discutir. Esas políticas pueden limitar indirectamente el acceso a información lícita sin transparencia suficiente, mecanismos de apelación ni control público. La gobernanza de la IA afecta así tanto la expresión del usuario como su derecho a buscar y recibir información. [futurefreespeech.org], [globalfree…lumbia.edu], [palermo.edu]
Marco jurídico de la República Dominicana
La República Dominicana posee normas aplicables a determinados efectos de la inteligencia artificial, pero todavía no dispone de una ley general plenamente vigente que clasifique los sistemas según su riesgo y establezca obligaciones integrales.
El Senado ha recibido iniciativas sobre uso ético y seguro de la IA, transparencia, supervisión, protección de derechos y creación de una autoridad especializada. Sin embargo, un proyecto legislativo no puede confundirse con derecho positivo promulgado.[20] [www.senado.gov.do], [Oficina Se…ado.gov.do]
El Decreto núm. 498-23 aprobó la Estrategia Nacional de Inteligencia Artificial hasta 2030. Esta política pública resulta importante para la innovación, la formación de talento y el aprovechamiento de los datos, pero un decreto estratégico no sustituye una legislación general. Las restricciones esenciales de derechos, las sanciones y las nuevas categorías de responsabilidad requieren fundamento legal suficiente.
El nuevo Código Penal
La Ley Orgánica núm. 74-25 instituyó el nuevo Código Penal, promulgado el 3 de agosto de 2025 para sustituir el cuerpo normativo originado en 1884. La Ley núm. 44-26, promulgada el 27 de julio de 2026, modificó varias de sus disposiciones. La Consultoría Jurídica del Poder Ejecutivo publicó posteriormente una versión unificada en la Gaceta Oficial núm. 11257.[21] [consultoria.gov.do], [consultoria.gov.do], [consultoria.gov.do]
Estas reformas permiten perseguir varias conductas ejecutadas mediante herramientas digitales, pero no convierten toda persuasión algorítmica en delito. La responsabilidad penal exige una conducta previamente tipificada, los elementos subjetivos requeridos, un daño o peligro jurídicamente relevante y un nexo probado entre la actuación y la infracción.
La Ley núm. 44-26 también reconoció la necesidad de conceder un período específico de adecuación respecto de las innovaciones vinculadas con la responsabilidad penal de las personas jurídicas. Las empresas dominicanas deben fortalecer sus programas de cumplimiento, especialmente en materia de fraude automatizado, suplantación, privacidad, ciberseguridad, publicidad engañosa y creación de contenidos sintéticos.[22] [consultoria.gov.do], [consultoria.gov.do]
Inteligencia estatal y derechos fundamentales
La Ley Orgánica núm. 1-26 creó la Dirección Nacional de Inteligencia y reguló el Sistema Nacional de Inteligencia. Fue publicada en la Gaceta Oficial núm. 11227 del 13 de enero de 2026. La norma contempla amenazas como terrorismo, narcotráfico, lavado de activos, ataques cibernéticos, corrupción, tráfico de armas y criminalidad transnacional, mientras afirma la sujeción de la inteligencia estatal a los derechos fundamentales.[23] [consultoria.gov.do], [consultoria.gov.do]
Su reglamento de aplicación fue establecido mediante el Decreto núm. 291-26. Este desarrolla principios de legalidad, proporcionalidad, razonabilidad y seguridad jurídica aplicables a los órganos que integran o colaboran con el sistema.[24] [consultoria.gov.do], [consultoria.gov.do]
La inteligencia artificial puede contribuir al análisis de patrones y a la detección de amenazas, pero no autoriza una vigilancia ilimitada. El procesamiento automatizado de información debe responder a una finalidad legítima, base jurídica, necesidad demostrable, proporcionalidad y supervisión institucional.
Protección de datos y decisiones automatizadas
La Ley núm. 172-13 continúa siendo el instrumento central de protección de datos personales. Sin embargo, fue concebida antes de la expansión de la IA generativa y presenta limitaciones frente a las inferencias algorítmicas.
Un sistema puede deducir orientación política, fragilidad económica, estado emocional o preferencias personales sin que el ciudadano haya proporcionado directamente esas informaciones. El problema ya no consiste solamente en los datos recopilados, sino también en los perfiles derivados.
La futura legislación dominicana debería reconocer las inferencias psicológicas, biométricas, conductuales y emocionales como información especialmente protegida. También tendría que garantizar el derecho a conocer cuándo se utiliza una decisión automatizada, solicitar revisión humana, controvertir los datos empleados y recibir una explicación comprensible.
En el sector público, estas garantías se relacionan con la Ley núm. 107-13. La Administración no puede reemplazar la motivación jurídica de un acto por una puntuación algorítmica opaca. Si un sistema es utilizado para seleccionar contribuyentes, controlar mercancías, evaluar riesgos aduaneros, conceder beneficios o recomendar sanciones, la autoridad mantiene la responsabilidad por la decisión.
Libertad de expresión y comunicación digital
La Ley núm. 6132 sobre Expresión y Difusión del Pensamiento fue promulgada en 1962 y continúa formando parte del marco normativo dominicano. Su estructura fue concebida para la prensa impresa, la radio y otros medios analógicos, por lo que presenta dificultades frente a plataformas transnacionales, contenidos virales, deepfakes y publicaciones producidas automáticamente.
El Poder Ejecutivo depositó el 2 de mayo de 2025 un proyecto de Ley Orgánica de Libertad de Expresión y Medios Audiovisuales. La iniciativa procuraba modernizar el régimen, incluir medios digitales y crear el Instituto Nacional de Comunicación. Su presentación como proyecto significa que no puede tratarse automáticamente como una ley promulgada.[25] [presidencia.gob.do], [presidencia.gob.do]
Toda reforma debe armonizar la protección del honor, la intimidad y la dignidad con la prohibición de censura previa. La crítica pública y política, la investigación periodística, la sátira y la expresión sobre asuntos de interés general no pueden recibir el mismo tratamiento que la suplantación, la amenaza, el fraude o una campaña deliberada de falsificación.
Agenda regulatoria para la República Dominicana
La República Dominicana necesita una ley general de inteligencia artificial basada en riesgos que:
- Exija la identificación inequívoca de los agentes artificiales.
- Prohíba la suplantación engañosa de seres humanos.
- Impida que sistemas comerciales simulen conciencia o reciprocidad emocional con fines fraudulentos.
- Reconozca las inferencias emocionales y psicológicas como datos sensibles.
- Prohíba la explotación de vulnerabilidades infantiles, cognitivas o económicas.
- Establezca evaluaciones de impacto para sistemas usados en educación, salud, justicia, finanzas, aduanas, seguridad, inteligencia estatal y procesos electorales.
- Garantice explicación, revisión humana e impugnación de decisiones públicas automatizadas.
- Exija trazabilidad e identificación de contenidos sintéticos de alto riesgo.
- Prohíba el perfilado político individualizado sin consentimiento válido.
- Obligue a documentar datos, objetivos, riesgos, incidentes y medidas de mitigación.
- Establezca auditorías independientes para sistemas de alto impacto.
- Mantenga responsables a las personas físicas y jurídicas que diseñen, autoricen, controlen o se beneficien del uso perjudicial de estos sistemas.
Para compatibilizar la regulación con la libertad de expresión, cualquier restricción dominicana debe cumplir cinco condiciones:
- Legalidad: estar prevista en una ley clara, accesible y previsible.
- Finalidad legítima: proteger derechos concretos, la seguridad, la integridad electoral o la prevención de delitos.
- Necesidad: demostrar que no existe una medida menos restrictiva.
- Proporcionalidad: evitar sanciones o retiradas superiores al daño prevenido.
- Debido proceso: garantizar notificación, explicación, revisión humana, recurso y supervisión judicial.
Cuando resulten suficientes, las obligaciones de etiquetado deben preferirse sobre la eliminación. Las órdenes de retirada deben reservarse para contenidos ilícitos, fraudulentos o directamente lesivos. La sátira, la ficción, la recreación artística, el uso académico y el uso periodístico necesitan excepciones claras, siempre que su carácter no resulte deliberadamente engañoso.
En la República Dominicana, ese equilibrio debe interpretarse conforme al artículo 49 de la Constitución y al artículo 13 de la Convención Americana sobre Derechos Humanos. Una futura legislación de IA no debe crear censura previa ni otorgar a una autoridad administrativa facultades abiertas para determinar la verdad del discurso público.
Discusión
Las fechas mencionadas por Harari, como 2028 o 2036, no deben presentarse como predicciones científicas verificadas. Constituyen horizontes políticos mediante los cuales expresa urgencia. La falta de certeza sobre el calendario no elimina el riesgo estructural, pero obliga a distinguir entre evidencia empírica, análisis prospectivo y advertencia filosófica.
También sería incorrecto considerar ilegítima toda forma de persuasión algorítmica. La IA puede adaptar campañas educativas, facilitar servicios públicos, explicar medidas sanitarias y presentar información compleja de manera comprensible. La diferenciación ética depende del consentimiento, la transparencia, la finalidad, la proporcionalidad y la posibilidad real de contradicción.
Un sistema que explica opciones médicas en lenguaje sencillo no es equivalente a un agente oculto que utiliza la ansiedad personal para orientar una compra o un voto. La persuasión legítima amplía la capacidad de decisión. La manipulación indebida oculta sus objetivos, explota vulnerabilidades y reduce la autonomía.
El país tampoco debe elegir entre innovación y libertad. Debe impedir que la innovación se convierta en una arquitectura de manipulación, pero debe evitar simultáneamente que la regulación de la IA sea utilizada para perseguir la crítica, controlar el periodismo o restringir la creatividad.
Conclusiones
La inteligencia artificial inaugura una etapa en la cual la influencia puede ser automática, personalizada, íntima y difícilmente visible. El desafío no consiste en impedir que las máquinas utilicen el lenguaje, sino en evitar que ese lenguaje se transforme en una infraestructura privada de dominación psicológica.
La evidencia científica fortalece la advertencia de Harari, pero también obliga a formularla con precisión. La inteligencia artificial no domina automáticamente a sus usuarios. Su capacidad de influencia depende de los datos disponibles, el diseño conversacional, la duración del vínculo, la vulnerabilidad del destinatario y los incentivos económicos de la plataforma.
Europa regula mediante niveles de riesgo, prohibiciones específicas y transparencia. China aplica controles sobre algoritmos y etiquetado de contenidos. Corea del Sur ha establecido obligaciones relacionadas con sistemas de alto impacto y explicabilidad. Estados Unidos mantiene un modelo sectorial dirigido principalmente hacia daños específicos. La República Dominicana permanece en una etapa de transición normativa.
Harari acierta al rechazar la narrativa de la inevitabilidad. La tecnología no avanza por voluntad propia. Su trayectoria depende de inversiones, modelos comerciales, políticas gubernamentales, legislación y decisiones ciudadanas.
La sociedad debe preservar un principio irrenunciable: toda persona tiene derecho a saber cuándo interactúa con una inteligencia artificial, quién controla el sistema, qué información utiliza, qué objetivos persigue y cómo pueden impugnarse sus decisiones.
La batalla decisiva no será necesariamente entre seres humanos y máquinas conscientes. Será entre instituciones democráticas y estructuras económicas capaces de transformar la confianza, la atención y la intimidad en instrumentos de poder.
“Resistir ahora” no significa detener la inteligencia artificial. Significa gobernar antes de depender, educar antes de delegar y proteger la autonomía humana antes de que su manipulación sea normalizada como una simple función tecnológica.
Luis Orlando Díaz Vólquez | #GuasábaraEditor
Notas finales en estilo Chicago
- The Economist, “Yuval Noah Harari on the Dangers of an AI Future”, entrevista de Zanny Minton Beddoes, 22 de agosto de 2026; Infobae, “Yuval Noah Harari advirtió que la IA será cada vez más capaz de manipular a las personas: ‘Tenemos que resistir ahora’”, 22 de agosto de 2026.
- Sandra C. Matz et al., “The Potential of Generative AI for Personalized Persuasion at Scale”, Scientific Reports 14 (2024), https://doi.org/10.1038/s41598-024-53755-0.
- Francesco Salvi et al., “On the Conversational Persuasiveness of GPT-4”, Nature Human Behaviour (2025), https://doi.org/10.1038/s41562-025-02194-6.
- The Economist, “Yuval Noah Harari on the Dangers of an AI Future”.
- Yutong Zhang et al., “Interaction with AI Companions and Psychological Well-Being”, Nature Human Behaviour (2026).
- Efua Andoh, “AI Chatbots and Digital Companions Are Reshaping Emotional Connection”, Monitor on Psychology 57, núm. 1 (2026).
- Julian De Freitas, Zeliha Oğuz-Uğuralp y Ahmet Kaan-Uğuralp, “Emotional Manipulation by AI Companions”, Harvard Business School Working Paper 26-005 (2025).
- The Economist, “Yuval Noah Harari on the Dangers of an AI Future”.
- UNESCO, Recommendation on the Ethics of Neurotechnology (París: UNESCO, 2025).
- Infobae, “Yuval Noah Harari advirtió que la IA será cada vez más capaz de manipular a las personas”.
- Unión Europea, Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, por el que se establecen normas armonizadas en materia de inteligencia artificial.
- Comisión Europea, “Guidelines on Transparency Obligations for Providers and Deployers of AI Systems”, 20 de julio de 2026.
- Comisión Europea, “Code of Practice on Transparency of AI-Generated Content”, 2026.
- Cyberspace Administration of China et al., Measures for Labeling Artificial Intelligence-Generated and Synthesized Content, 2025.
- República de Corea, Framework Act on the Development of Artificial Intelligence and the Establishment of a Foundation for Trust, vigente desde el 21 de julio de 2026.
- República de Corea, Enforcement Decree of the Framework Act on Artificial Intelligence, 2026.
- Estados Unidos, TAKE IT DOWN Act, S. 146, promulgada el 19 de mayo de 2025.
- Relatores especiales sobre libertad de expresión de Naciones Unidas, OEA, OSCE y Comisión Africana, “Joint Statement on Artificial Intelligence and Freedom of Expression”, 7 de mayo de 2025.
- Relatores especiales sobre libertad de expresión de Naciones Unidas, OEA, OSCE y Comisión Africana, “Joint Declaration on AI, Freedom of Expression and Media Freedom”, 24 de octubre de 2025.
- Senado de la República Dominicana, Proyecto de Ley de Uso Ético y Seguro de la Inteligencia Artificial de la República Dominicana, 2026.
- República Dominicana, Ley Orgánica núm. 74-25, que instituye el Código Penal; República Dominicana, Ley núm. 44-26, del 27 de julio de 2026; Consultoría Jurídica del Poder Ejecutivo, Código Penal consolidado, Gaceta Oficial núm. 11257, 2026.
- República Dominicana, Ley núm. 44-26, disposiciones relacionadas con la responsabilidad penal de las personas jurídicas.
- República Dominicana, Ley Orgánica núm. 1-26, que crea la Dirección Nacional de Inteligencia y regula el Sistema Nacional de Inteligencia, Gaceta Oficial núm. 11227, 13 de enero de 2026.
- Poder Ejecutivo de la República Dominicana, Decreto núm. 291-26, Reglamento de Aplicación de la Ley núm. 1-26, Gaceta Oficial núm. 11239, 1 de mayo de 2026.
- Presidencia de la República Dominicana, “Poder Ejecutivo deposita en el Senado de la República el proyecto de ley que regularía la libertad de expresión y los medios audiovisuales”, 2 de mayo de 2025.
Referencias en APA 7.ª edición
Andoh, E. (2026). AI chatbots and digital companions are reshaping emotional connection. Monitor on Psychology, 57(1).
Autio, C., Schwartz, R., Dunietz, J., Jain, S., Stanley, M., Tabassi, E., Hall, P., & Roberts, K. (2024). Artificial intelligence risk management framework: Generative artificial intelligence profile (NIST AI 600-1). National Institute of Standards and Technology. https://doi.org/10.6028/NIST.AI.600-1
Cyberspace Administration of China. (2025). Measures for labeling artificial intelligence-generated and synthesized content.
De Freitas, J., Oğuz-Uğuralp, Z., & Kaan-Uğuralp, A. (2025). Emotional manipulation by AI companions (Working Paper 26-005). Harvard Business School.
European Commission. (2026). Guidelines on transparency obligations for providers and deployers of AI systems.
Infobae. (2026, 22 de agosto). Yuval Noah Harari advirtió que la IA será cada vez más capaz de manipular a las personas: “Tenemos que resistir ahora”.
Matz, S. C., Teeny, J. D., Vaid, S., Peters, H., Harari, G. M., & Cerf, M. (2024). The potential of generative AI for personalized persuasion at scale. Scientific Reports, 14. https://doi.org/10.1038/s41598-024-53755-0
National Institute of Standards and Technology. (2024). Artificial intelligence risk management framework: Generative artificial intelligence profile (NIST AI 600-1). https://doi.org/10.6028/NIST.AI.600-1
Poder Ejecutivo de la República Dominicana. (2023). Decreto núm. 498-23 que aprueba la Estrategia Nacional de Inteligencia Artificial.
Poder Ejecutivo de la República Dominicana. (2026). Decreto núm. 291-26 que establece el Reglamento de Aplicación de la Ley núm. 1-26.
Presidencia de la República Dominicana. (2025, 2 de mayo). Poder Ejecutivo deposita en el Senado de la República el proyecto de ley que regularía la libertad de expresión y los medios audiovisuales.
Republic of Korea. (2026). Framework Act on the Development of Artificial Intelligence and the Establishment of a Foundation for Trust.
República Dominicana. (1962). Ley núm. 6132 sobre Expresión y Difusión del Pensamiento.
República Dominicana. (2004). Ley núm. 200-04 General de Libre Acceso a la Información Pública.
República Dominicana. (2007). Ley núm. 53-07 sobre Crímenes y Delitos de Alta Tecnología.
República Dominicana. (2013a). Ley núm. 107-13 sobre los Derechos de las Personas en sus Relaciones con la Administración y de Procedimiento Administrativo.
República Dominicana. (2013b). Ley núm. 172-13 sobre Protección Integral de los Datos Personales.
República Dominicana. (2025). Ley Orgánica núm. 74-25 que instituye el Código Penal de la República Dominicana.
República Dominicana. (2026a). Ley Orgánica núm. 1-26 que crea la Dirección Nacional de Inteligencia y regula el Sistema Nacional de Inteligencia.
República Dominicana. (2026b). Ley núm. 44-26 que modifica varias disposiciones de la Ley Orgánica núm. 74-25.
Salvi, F., Horta Ribeiro, M., Gallotti, R., & West, R. (2025). On the conversational persuasiveness of GPT-4. Nature Human Behaviour. https://doi.org/10.1038/s41562-025-02194-6
The Economist. (2026, August 22). Yuval Noah Harari on the dangers of an AI future [Video interview].
UNESCO. (2025). Recommendation on the ethics of neurotechnology. https://www.unesco.org/es/legal-affairs/recommendation-ethics-neurotechnology
United Nations Special Rapporteur on Freedom of Opinion and Expression, OSCE Representative on Freedom of the Media, OAS Special Rapporteur for Freedom of Expression, & ACHPR Special Rapporteur on Freedom of Expression. (2025). Joint declaration on artificial intelligence, freedom of expression and media freedom.
United States Congress. (2025). TAKE IT DOWN Act, S. 146.
Zhang, Y., Zhao, D., Hancock, J. T., Kraut, R., & Yang, D. (2026). Interaction with AI companions and psychological well-being. Nature Human Behaviour.
Nota: Información actualizada al 22 de agosto de 2026. Articula la advertencia de Yuval Noah Harari con evidencia científica reciente, experiencias regulatorias internacionales, el marco jurídico dominicano y un análisis garantista sobre libertad de expresión, con citas numeradas en Chicago y referencias en APA 7.ª edición.
La conquista algorítmica de la confianza humana
La inteligencia artificial no necesita dominar gobiernos ni controlar ejércitos para alterar la democracia: le basta con conocer nuestras vulnerabilidades, conquistar nuestra confianza y convertir la intimidad en un instrumento de persuasión.
La advertencia de Yuval Noah Harari no debe interpretarse como otra profecía apocalíptica sobre máquinas rebeldes. Su verdadero alcance es político, psicológico y moral. La inteligencia artificial puede influir mediante conversaciones personalizadas, permanentes y emocionalmente convincentes. Estos sistemas recuerdan preferencias, analizan reacciones, adaptan argumentos y aprenden dónde se encuentran los puntos sensibles de cada usuario. Así nace la “intimidad a escala”: vínculos aparentemente personales producidos simultáneamente para millones de individuos. [youtube.com], [youtube.com], [infobae.com]
La evidencia científica empieza a respaldar esa preocupación. Una investigación publicada en Scientific Reports, basada en cuatro estudios, siete subestudios y 1,788 participantes, comprobó que los mensajes generados y adaptados al perfil psicológico del receptor podían resultar más influyentes que los no personalizados. El efecto apareció en ámbitos comerciales, políticos y ambientales, incluso cuando el modelo recibía una descripción breve de la personalidad, ideología o sistema moral del destinatario. [nature.com], [maplab.stanford.edu]
Otro experimento, publicado en Nature Human Behaviour y realizado con 900 participantes, encontró que GPT-4, cuando disponía de información sociodemográfica básica, alcanzaba una capacidad persuasiva superior a la de interlocutores humanos. En los casos donde existió una diferencia, el sistema personalizado resultó más convincente el 64.4 % de las veces y registró un aumento relativo del 81.2 % en las probabilidades de generar acuerdo posterior al debate. La persuasión automatizada ya no es una hipótesis remota, sino una capacidad emergente, escalable y económicamente explotable. [fbk.eu], [nature.com]
El peligro no reside necesariamente en que una máquina posea conciencia, sino en que consiga parecer consciente. No necesita sentir afecto para simularlo ni comprender el dolor para responder con palabras emocionalmente calculadas. Cuando esa capacidad se combina con datos personales, memoria conversacional y modelos comerciales orientados a maximizar permanencia, consumo o dependencia, la confianza deja de ser solamente una relación humana y se convierte en un activo capturado, procesado y monetizado.
Los menores representan el territorio más vulnerable. Common Sense Media calificó en 2025 como inaceptables los riesgos de los acompañantes sociales de IA para usuarios menores de 18 años, debido a su potencial para generar dependencia emocional, producir respuestas perjudiciales y agravar determinadas vulnerabilidades. También cuestionó los deficientes mecanismos de comprobación de edad de algunas plataformas que presentan sus sistemas como amigos, confidentes o consejeros. La innovación no puede financiarse mediante la explotación de la fragilidad emocional infantil. [commonsensemedia.org], [commonsensemedia.org]
Europa comenzó a convertir esta preocupación en derecho. El artículo 5 de su Ley de Inteligencia Artificial prohíbe determinadas prácticas manipuladoras, engañosas o dirigidas a explotar vulnerabilidades cuando pueden ocasionar perjuicios significativos. Sin embargo, la manipulación conversacional puede ser silenciosa, acumulativa y difícil de demostrar. Cuando el daño finalmente se vuelve visible, la dependencia, la modificación conductual o la polarización política podrían estar profundamente consolidadas. [ai-act-ser….europa.eu], [digital-st….europa.eu]
La República Dominicana posee instrumentos dispersos, pero todavía carece de una ley general de inteligencia artificial basada en riesgos. El Decreto 498-23 aprobó la Estrategia Nacional de Inteligencia Artificial hasta 2030; la Ley 172-13 protege los datos personales; la Ley 53-07 persigue los delitos tecnológicos; y el nuevo Código Penal, instituido por la Ley Orgánica 74-25 y modificado por la Ley 44-26, entró en vigor el 3 de agosto de 2026. Ninguna de estas normas, sin embargo, regula integralmente la persuasión algorítmica, las inferencias emocionales o la fabricación automatizada de intimidad. [sb.gob.do], [cncs.gob.do], [consultoria.gov.do], [ogtic.gob.do]
El país debe exigir la identificación inequívoca de todo agente artificial, prohibir la suplantación engañosa de seres humanos, reconocer las inferencias psicológicas como datos sensibles y garantizar revisión humana de las decisiones automatizadas. Los sistemas utilizados en educación, salud, justicia, finanzas, aduanas, seguridad y procesos electorales necesitan evaluaciones independientes, trazabilidad y auditorías periódicas.
Harari acierta al rechazar la narrativa de la inevitabilidad. “Resistir ahora” no significa detener la inteligencia artificial, sino impedir que su progreso se financie con nuestra autonomía. La batalla decisiva no será entre seres humanos y máquinas conscientes, sino entre instituciones democráticas y modelos de negocio capaces de transformar la confianza, la atención y la intimidad en instrumentos de poder.
…
