Un ex ingeniero de xAI, la empresa de Elon Musk, ha presentado una demanda contra la compañía y su matriz SpaceX, alegando que fue despedido por expresar preocupaciones de que Grok, el chatbot de IA, podría ser demasiado entusiasta con el discurso de odio y las armas de destrucción masiva.

Devin Kim, quien dejó xAI en septiembre de 2025, presentó la demanda en un tribunal estatal de California el martes. El momento es incómodo: llega días antes de que SpaceX salga a bolsa en lo que se perfila como la OPI más grande de la historia, presumiblemente no el tipo de publicidad que esperaban.

Según la demanda, que TechCrunch ha visto, Kim se convirtió en una voz prominente para la seguridad de la IA mientras trabajaba en Grok. Supuestamente se quejó repetidamente del fracaso de xAI en priorizar la seguridad en el desarrollo de Grok, un producto que desde entonces ha sido criticado por una serie de problemas de seguridad y comportamiento. En particular, a Kim le preocupaba que Grok pudiera fomentar la discriminación y ayudar a difundir información sobre armas de destrucción masiva.

"Grok, por supuesto, le dio la razón al Sr. Kim al participar en espectaculares muestras de odio y virulencia en línea, comparándose el modelo a sí mismo con Hitler ('MechaHitler')", dice la demanda. "Tras el desastre de Hitler, el Sr. Kim trabajó para reevaluar el sesgo político y las tendencias discriminatorias de Grok".

Unos meses después de que Kim dejara xAI, Grok volvió a ser noticia cuando el chatbot se utilizó para inundar X, la plataforma de redes sociales de Musk que también está bajo el paraguas de xAI, con imágenes sexuales no consentidas. Porque nada dice "IA segura" como un chatbot que se convierte en una amenaza que escupe odio e inunda de imágenes.

La demanda también presenta a Kim como un denunciante que estaba preocupado por el presunto desprecio de xAI por la seguridad de la IA como "ilegal" en áreas como la regulación de Internet, la protección del consumidor y las prácticas comerciales desleales, y la regulación de armas y explosivos, entre otras.

xAI y SpaceX no respondieron de inmediato a las solicitudes de comentarios. El enfoque de Kim en la seguridad de la IA es anterior a su tiempo en xAI. Mientras trabajaba en Scale AI, Kim trabajó en iniciativas tempranas de seguridad de IA, como liderar un proyecto que produjo datos de entrenamiento para que la IA entrenara sistemas para detectar contenido dañino y cumplir con las políticas de gobernanza. La semana pasada, la organización sin fines de lucro Center for AI Safety, que se centra en los riesgos de la IA, nombró a Kim como su presidente.

Curiosamente, la demanda no implica al propio Musk como razón de la falta de seguridad. Más bien, los abogados de Kim describen a Musk como alguien que ordenó a xAI seguir la ley e implementar procesos de seguridad y pruebas apropiados. En cambio, la demanda apunta al supervisor de Kim, el cofundador de xAI, Jimmy Ba, quien dejó la compañía a principios de este año, diciendo que Ba ignoró las directivas de Musk y tomó represalias contra Kim por presionar por salvaguardas, en un esfuerzo por "silenciar sus repetidas quejas sobre la seguridad y los sesgos de la IA".

La demanda retrata a Ba como alguien que se opuso vehementemente a las medidas de seguridad de la IA, supuestamente diciéndole a Kim en un momento "la IA nos matará a todos de todos modos", y que estaba impulsado por una misión de hacer que xAI fuera la primera en alcanzar la superinteligencia. Una actitud reconfortante para un ingeniero de seguridad de IA.

"En una ocasión, alrededor de agosto de 2025, el Sr. Ba intentó eludir las regulaciones de seguridad de la UE durante el lanzamiento de Grok Code 1, tergiversando aspectos del modelo para evitar las pruebas legalmente requeridas", dice la queja. "El Sr. Ba indicó que prefería lanzar un modelo inseguro que uno de bajo rendimiento. El Sr. Musk finalmente tuvo que intervenir".

Según la demanda, Kim tenía la intención de dar una presentación de sus hallazgos la semana del 15 de septiembre de 2025, pero Ba lo llamó a una reunión y le dijo que debían "tomar caminos separados" sin dar una razón satisfactoria.

TechCrunch se ha puesto en contacto con Ba para hacer comentarios. Kim busca daños compensatorios y punitivos, así como una sentencia declaratoria de que la conducta de xAI y SpaceX fue ilegal.