IA y ciberseguridad para aseguradoras, sobre el trabajo que ya existe

A las aseguradoras no les faltan lugares donde poner un agente. Notas de reclamos, redacción de pólizas, preguntas de corredores, referidos de suscripción y la cola larga del correo de servicio son texto, y el texto es lo que estos sistemas consumen. El error es tratar eso como un permiso. Un expediente de reclamo es una decisión que gasta el dinero de la compañía y la confianza del cliente. Un agente al que se le permite recorrer el expediente es un insider nuevo.

El trabajo de S·CORP con aseguradoras empieza por el expediente, la autoridad para tocarlo y los básicos de ciberseguridad que la compañía ya dice seguir. No inventamos un índice de siniestralidad para el proyecto. Preguntamos quién puede decidir, qué puede ver y cómo se va a enterar el equipo de seguridad.

Separe redactar de decidir

Un agente puede armar una cronología con documentos que ya están en el sistema de reclamos. Puede señalar una cláusula del condicionado que el ajustador pidió. Puede redactar una solicitud del documento que falta. Eso son borradores. El acuerdo, la denegación, la rescisión, un referido de fraude y cualquier comunicación que le diga al reclamante qué va a pagar la compañía son decisiones. Las toma una persona nombrada, con la autoridad que ya existe. El expediente registra que la persona vio el borrador y qué cambió.

Si el borrador se guarda, guárdelo como borrador. Ajustadores y auditores deben poder distinguir el lenguaje del modelo del lenguaje de la compañía. No es una preferencia de estilo. Es la forma de explicar un expediente después, incluso ante un regulador o un tribunal que pregunte qué sabía la compañía.

Los referidos de suscripción siguen el mismo corte. Un agente puede preparar un resumen de la solicitud contra las preguntas que el suscriptor ya usa. No tiene un apetito propio. Si el apetito vive en una guía, la persona aplica la guía. Si el apetito vive solo en una instrucción, el apetito no se puede auditar.

El expediente de reclamo es el mapa de datos

Las compañías ya saben que los expedientes de reclamos son sensibles: información de salud en algunos ramos, información financiera en otros, documentos de identidad en casi todos. El RGPD, donde aplica, y las normas de sector que la compañía ya sigue, no se relajan porque haya un modelo en el camino. El agente y su índice son un lugar nuevo de tratamiento. Nómbrelo en el registro de actividades. Nombre al proveedor si un proveedor lo aloja. Nombre la conservación, que no debe ser más larga que la del propio expediente solo porque un producto de trazas viene configurado para siempre.

No embeba el archivo entero "para ver qué encuentra el modelo." Construya la recuperación desde el expediente que el ajustador puede abrir, en el momento en que puede abrirlo. La búsqueda entre expedientes suena poderosa y se vuelve una ruptura de la regla de mínimo privilegio que el equipo de seguridad ya escribió. Si un equipo de fraude necesita búsqueda entre expedientes, ese es otro sistema, con otra autoridad, no una función del asistente del ajustador.

PCI DSS entra en alcance cuando el cobro de prima o los pagos con tarjeta se sientan al lado del bot de servicio. Mantenga los instrumentos de pago fuera de la conversación. El sistema de pólizas tiene un token o una referencia interna. Use eso.

La ciberseguridad es la de siempre, aplicada a un runtime nuevo

El runtime del agente es una aplicación. Necesita un dueño, un camino de parches, una identidad, registros y un lugar en el proceso de incidentes. El valor de ISO 27001, para una compañía que la usa, es que este runtime no sea un proyecto de TI en la sombra al lado del SGSI. Póngalo en alcance. Si la compañía no se certifica en ISO 27001, las mismas preguntas siguen en pie: quién lo administra, cómo se guardan las credenciales, cómo se van a enterar de una vulnerabilidad en la capa de orquestación.

El Top 10 de OWASP para aplicaciones de LLM es la capa específica. La inyección de instrucciones contra un resumen de reclamo no es teórica. Un reclamante, un taller o un documento del expediente puede traer instrucciones. Las herramientas del agente no deben incluir "enviar el expediente a una dirección encontrada en el documento" ni "cambiar la reserva." Los parámetros de las herramientas vienen del sistema de reclamos, no del texto.

La agencia excesiva aparece como un conector al sistema de administración de pólizas con derechos amplios de actualización, creado para que un piloto pudiera "hacer más" después. Borre los derechos que el piloto no necesita. Una lectura del condicionado y una escritura de una nota en borrador suelen alcanzar para una primera salida.

Las trazas del proveedor son un asunto de ciberseguridad y de privacidad a la vez. Una instrucción que contiene una nota médica es una divulgación a cada empresa que guarda la instrucción. Apague los usos del contenido del cliente que el contrato no exige. Pruebe que el interruptor hace lo que el contrato dice, con un expediente que pueda usar como prueba, no con un reclamante en vivo.

Distribución y el canal de corredores

Los agentes que responden a corredores son otro límite de confianza. El corredor no es empleado de la compañía, y el cliente del corredor no está en el sistema de identidad de la compañía de una forma simple. Autentique al corredor con el mecanismo en el que la compañía ya confía. Limite la respuesta a la cartera de ese corredor. Un modelo que "ayuda" consultando una póliza parecida de otro corredor es un incidente de confidencialidad.

Los socios de marketing y las agencias que construyen estas experiencias para una aseguradora deben esperar que el equipo de seguridad de la compañía revise herramientas, datos y registros como revisaría cualquier sistema nuevo. Un prototipo alojado en una cuenta personal no es un piloto. Un piloto tiene un entorno, un dueño y una fecha en la que se apaga si no se cumple el alcance.

Qué contiene una primera salida seria

Una operación nombrada. Una lista de decisiones que el agente no debe tomar. Un mapa de datos no más ancho que la autoridad del propio ajustador. Herramientas con verbos estrechos. Una persona en la decisión. Registros que apuntan al número de reclamo en lugar de acaparar el reclamo. Un camino de proveedor que la oficina de privacidad leyó. Una forma de apagar el agente sin un desarrollador en la sala.

El Marco de Gestión de Riesgos de IA de NIST puede ordenar la conversación con riesgo. No va a elegir la operación por usted. La operación debe ser una que la dirección de reclamos o de servicio ya quiere mejorar por razones que puede decir sin un modelo: documentos faltantes, cronología lenta, redacción inconsistente. El agente sirve a esa razón, o no sale.