Manual de IA: qué información nunca deberías compartir con una inteligencia artificial

En abril de 2023, cuando ChatGPT acababa de ver la luz, un grupo de ingenieros que trabajaban en la división de semiconductores de Samsung pegó código fuente confidencial en esta IA para que detectara errores.

Además, uno de ellos aprovechó la ocasión para ahorrar tiempo y le cargó una minuta completa de una reunión directiva, para que generara un resumen. ¿El problema? Toda esa información corporativa ultra confidencial terminó alojada en los servidores de OpenAI y disponible para el entrenamiento de su modelo .

La compañía no lo dudó y tomó medidas drásticas: prohibió temporalmente el uso de herramientas de IA generativa en todas sus redes internas.

El caso de Samsung sigue dándose hoy en muchas industrias, empresas y emprendimientos, muchas veces sin que los autores sean conscientes de lo que están haciendo.

“El riesgo no es un hacker ruso atravesando tu barrera de seguridad a medianoche; hoy la principal fuga de información son empleados con buenas intenciones usando herramientas públicas para trabajar más rápido“, fue contundente Marcelo De Luca, cofundador de The App Master, compañía argentina que crea soluciones tecnológicas para startups , pequeñas y medianas empresas.

Para recuperar el control del cuerpo.

Antes que Neuralink, China aprueba su primer chip cerebral para su uso médico Efectivamente, pocos saben que cuando se utiliza una inteligencia artificial, el modelo lee el prompt y la información para brindar una respuesta en el momento, pero también ocurre algo más: esos datos se guardan en sus servidores -en muchos casos- para seguir “entrenando” el sistema. ¿Qué significa esto en la práctica? “Que si le subís un balance, una estrategia de ventas o el código de tu sistema, todo eso entra en una gran bolsa de aprendizaje.

Mañana, si un competidor tuyo le hace la pregunta correcta a esa misma IA, el sistema podría usar lo que aprendió con tus datos para responderle a él ”, advirtió De Luca, aunque señaló que esto no se da en todos los escenarios: “ A menos que pagues versiones corporativas donde te firman que no van a usar tu información ”.

Pero a veces pagar no es sinónimo de privacidad : es necesario desactivar manualmente esto en el caso de cuentas personales (especificar que no se desea usar los datos para el entrenamiento), contar con una versión corporativa o utilizarlo a través de API (conectores específicos para software).

“ En las versiones gratuitas y abiertas al público masivo, la regla general establecida por los proveedores es la reserva del derecho a incorporar las consultas y las respuestas para perfeccionar sus algoritmos .