Carta al Director
«Quizá el robot más peligroso no habla en lenguaje natural, no automatiza, no escribe código.»
Señor Director:
Quizá el robot más peligroso no habla en lenguaje natural, no automatiza, no escribe código. La discusión pública sobre inteligencia artificial se ha concentrado en los grandes modelos de lenguaje (Claude, ChatGPT y otros). Nos enfocamos en la riqueza que traerán y en cómo reducir el impacto de los trabajos reemplazados. Pero mientras todos miramos los modelos que predicen palabras (GPTs), otra familia de modelos crece silenciosamente en otra dimensión: modelos predictores de atención. Objetivo: maximizar tu tiempo en pantalla.
Este es el gran riesgo, enormes máquinas de hipnosis. Modelos tan inteligentes como los últimos sistemas de IA, pero entrenados solo para capturar y mantener la atención humana.
El mecanismo parece inofensivo. Pero observa cuándo uno se detiene. Qué compartimos. Qué nos hace volver. Cada movimiento es un dato en contra de uno y en contra de personas con gustos similares.
Su poder crece por dos razones: poder de cómputo y cantidad de datos. Hoy tienen el mismo poder de cómputo que los modelos más avanzados, pero más horas de conducta humana observada que las necesarias para leer todos los libros escritos.
Gracias al contenido artificial, el poder hipnótico se escapa a consecuencias desconocidas. Antes estos modelos estaban limitados a la realidad. Hoy ese límite ya no existe: el contenido puede autogenerarse según los gustos de cada persona.
La verdadera pregunta no es si las redes sociales tienen cosas buenas; evidentemente las tienen. La pregunta correcta es: ¿Qué tan justo es enfrentar en batalla a un alma poco formada, como la de un adolescente, contra un gigante de 500 toneladas diseñado para hipnotizarlo?
No se trata de demonizar la tecnología ni de negar la responsabilidad individual. Pero sería ingenuo pensar que una persona podrá competir contra sistemas que mejoran cada día gracias a miles de millones de usuarios y a un poder computacional creciente.
La consecuencia social ya se está viendo: niños incapaces de aburrirse, empresas pagando productividad mientras otra empresa monetiza la distracción de sus empleados, familias juntas físicamente, pero secuestradas por feeds distintos.
¿Cómo legislar al respecto?
La IA agéntica bajó drásticamente el costo de construir software. Eso es una oportunidad enorme — y un riesgo si no se gobierna desde el inicio. La pregunta ya no es si su empresa usará IA, sino si lo hará con una arquitectura que resista el crecimiento.
«La adopción de IA sin gobierno termina en decenas de aplicaciones sueltas, datos duplicados imposibles de consolidar y riesgos de seguridad.»
Conocer la asesoría de Veltrum ↗Elija su nube por evaluación, no por inercia: costos, control, cumplimiento y capacidades del equipo.
Un data lake como fuente única de verdad, con historia cargada y pipelines que lo mantienen vivo.
La IA necesita significado, no solo tablas: documentación semántica, embeddings y glosario de negocio.
Conectores estándar y seguros entre los modelos y sus sistemas, con permisos y trazabilidad.
Elija la suite corporativa (Claude, Gemini, Copilot, GPT) según sus casos de uso reales, no la moda.
La mejor arquitectura no sirve si el equipo no la usa: capacitación práctica sobre los datos de su empresa.
Cuando las aplicaciones se multiplican, la gobernanza es el activo más valioso: pipeline único, RBAC y despliegues reversibles.
Cumplimiento con la ley de protección de datos, seguridad de punta a punta y ejecución incluida.
veltrumconsulting.com ↗