A medida que los modelos de IA se vuelven más potentes, también lo hace el potencial de travesuras, y el coro de voces que exigen medidas de seguridad. Las empresas de IA ahora enfrentan la delicada tarea de respetar la privacidad de los clientes empresariales mientras vigilan posibles abusos. Al detectar una oportunidad para superar a su rival Anthropic, OpenAI ha anunciado un enfoque centrado en la privacidad para monitorear el mal uso: Procesamiento de Seguridad Privada. Este sistema automatizado vigila posibles abusos sin retener ningún dato del cliente, porque aparentemente, puedes tener tu pastel y comértelo también, si el pastel está hecho de algoritmos.

Este movimiento contrarresta directamente la política de retención de datos recientemente anunciada por Anthropic, que ha irritado a algunos clientes. Esa política, que entró en vigor en julio, permite al laboratorio de IA conservar los datos de los usuarios (todas las sesiones y conversaciones) durante 30 días cuando se trata de 'modelos cubiertos', incluidos todos los modelos de clase Mythos y 'modelos futuros con capacidades similares'. La política fue diseñada por seguridad, permitiendo al laboratorio examinar posibles irregularidades. Pero ha preocupado profundamente a las empresas que manejan datos sensibles y que no quieren que su información sea almacenada o inspeccionada por el laboratorio de IA.

OpenAI, como la mayoría de las empresas de IA, ya ofrece un nivel de privacidad mediante la Retención Cero de Datos (ZDR). ZDR utiliza agentes dentro de la API de OpenAI para monitorear abusos por sesión, por lo que los datos del cliente no se retienen, pero la actividad sospechosa aún puede marcarse sin intervención humana. Cabe destacar que Anthropic también cumple con ZDR, excepto para 'modelos cubiertos' como Fable.

OpenAI dice que el Procesamiento de Seguridad Privada amplía el alcance de ZDR. Es una forma de monitoreo de seguridad a largo plazo que evalúa entradas y salidas a través de múltiples conversaciones, no solo una. El monitoreo lo realiza un agente que, si se activa, captura las interacciones y las analiza entre sesiones en busca de señales de mal uso. Esto ayuda a detectar usos maliciosos que abarcan múltiples sesiones, como un actor malintencionado que intenta crear malware distribuyendo solicitudes para evitar la detección. El Procesamiento de Seguridad Privada puede analizar esas conversaciones en busca de abusos sin revisión humana.

Si se activa, el sistema puede enviar una 'señal estrechamente definida' a OpenAI advirtiendo sobre actividad específica. Con base en eso, OpenAI puede decidir si es necesaria una 'acción correctiva'. Si es así, se comunicarán con el cliente para obtener contexto o trabajar en el problema, y el cliente puede optar por compartir datos a su discreción. Mientras tanto, Anthropic señala que la revisión humana de los datos del cliente puede ocurrir, pero solo a través de una 'vía de acceso controlado' que involucra a 'un pequeño grupo de revisores aprobados', con cada sesión de revisión registrada en un registro a prueba de manipulaciones que los revisores no pueden suprimir ni modificar.

La rivalidad corporativa entre OpenAI y Anthropic se está intensificando, y ambas buscan cualquier ventaja. Un informe reciente mostró que el crecimiento de OpenAI en el segundo trimestre fue más lento que el de Anthropic, cuya tasa de ingresos anualizados se estima en 65 mil millones de dólares. Los inversores de Anthropic han planteado una oferta pública inicial de 2 billones de dólares, mientras que OpenAI también está trabajando en su propia OPI. En la carrera por ganarse la confianza empresarial, OpenAI acaba de lanzar el guante de la privacidad, y está envuelto en ceros y unos.