Alex Karp, CEO de Palantir: "Las empresas de IA podrían tener que nacionalizarse debido a los altos riesgos que conllevan"

Alex Karp, CEO de Palantir, ha situado el debate sobre la seguridad de la inteligencia artificial en un terreno hasta ahora poco habitual entre los grandes ejecutivos tecnológicos: la posible nacionalización de las empresas de IA .

El directivo sostiene que el desarrollo de modelos cada vez más potentes puede generar responsabilidades civiles y penales difíciles de asumir únicamente por compañías privadas , especialmente cuando la tecnología entra en ámbitos críticos.

“ Estas empresas tienen que ser nacionalizadas porque, si no las nacionalizas, todos y cada uno de mis clientes me van a demandar ”, afirmó Karp durante una entrevista con CNBC .

Su planteamiento parte de lo que describe como los “riesgos ilimitados” de la inteligencia artificial y de la dificultad para establecer reglas capaces de cubrir todos los escenarios que pueden surgir cuando estos sistemas se despliegan a gran escala.

El CEO de Palantir defiende la creación de unas normas “razonables” para controlar el desarrollo y uso de esta tecnología, aunque considera que cualquier regulación debe ir acompañada de responsabilidades claras para quienes construyen los modelos .

“Tienes que encontrar una forma de establecer unas directrices razonables que se hagan cumplir, pero no puedes hacerlo”, señaló Karp, antes de añadir: “ La primera línea de defensa es que eres responsable de tus propios actos ”.

El debate sobre la regulación de la IA Las declaraciones llegan mientras aumenta la discusión entre responsables tecnológicos y legisladores estadounidenses sobre cómo gestionar los modelos de IA más avanzados.

Karp insistió en que los desarrolladores que actúen de forma irresponsable deberían afrontar consecuencias civiles y penales.

“ Tenemos que ponernos serios ”, aseguró al referirse a las capacidades alcanzadas por las últimas generaciones de sistemas de inteligencia artificial.

Del 'Incidente' a la superinteligencia: la verdad que hay detrás de la 'rebelión de las máquinas' (y lo que nos espera) Manuel Ángel Méndez El 'hackeo' descontrolado de agentes de IA de OpenAI a la empresa Hugging Face (recién adquirida por Nvidia), ha supuesto una alerta mundial en el mundo de la ciberseguridad.

Es solo el principio del nuevo escenario que nos espera La preocupación no se limita a Palantir .

Según la información facilitada por CNBC, Dario Amodei , CEO de Anthropic, ha pedido ralentizar el desarrollo de la inteligencia artificial de frontera , mientras que otros ejecutivos, entre ellos Sam Altman y Elon Musk , también han reclamado mecanismos de regulación.

Frente a estas posiciones, otros responsables tecnológicos, como Jensen Huang y Mark Zuckerberg , han mostrado enfoques diferentes sobre cómo abordar los riesgos y la supervisión de estos sistemas .