Lanzan programa de recompensas por fallos de seguridad en IA Google, con pagos de hasta 1.75 millones de pesos filipinos

Google ha lanzado una nueva iniciativa enfocada en encontrar vulnerabilidades en sus sistemas de IA. Esto fue anunciado a través del blog Bug Hunters de Google, con recompensas que alcanzan hasta USD 30,000 (~PHP 1.75 millones).

El programa de recompensas por errores (bug bounty) de IA se centra en encontrar fallos de seguridad únicos de las tecnologías de IA, como la 'inyección de instrucciones'. Este es un caso en el que la IA podría ser engañada para realizar acciones no autorizadas.

Un ejemplo de esto es cuando Google Home desbloquea la puerta frontal de un residente sin previo aviso. También podría estar relacionado con Google Workspace, como resumir los correos electrónicos de un usuario para uso de un tercero.

Estos incidentes son clasificados por Google como 'acciones de actores maliciosos', lo que la empresa considera vulnerabilidades en la IA perjudiciales para la seguridad. Los investigadores que encuentren fallos de seguridad en los productos centrales de Google pueden ganar recompensas a través del programa.

Esto incluye plataformas como Búsqueda, aplicaciones Gemini, Gmail, Drive o Workspace. La recompensa base es de 20.000 USD, lo que podría ascender hasta 30.000 USD dependiendo de la calidad del informe.

Los errores encontrados en otros productos como NotebookLM tendrán recompensas menores. Además, Google indicó que los modelos de IA que 'alucinan' generan salidas incorrectas y no son elegibles para recibir recompensas.

Además, se anima a los participantes a informar sobre problemas con contenido generado por IA dañino o con derechos de autor mediante las herramientas de retroalimentación integradas.

Aquí hay una tabla que describe el alcance de los posibles problemas.