En una decisión que representa un cambio importante en su política de ética en inteligencia artificial (IA), Google ha retirado de sus guías la prohibición explícita de emplear su tecnología en aplicaciones vinculadas a armamento y vigilancia. Esta alteración, hecha pública el 4 de febrero de 2025, ha desatado un extenso debate sobre las consecuencias éticas y sociales de la IA en entornos militares y de seguridad.
Cambio en las Normativas de IA de Google
Evolución de las Directrices de IA de Google
En 2018, Google estableció una serie de principios éticos para guiar el desarrollo y la implementación de su tecnología de IA. Entre estos principios se encontraba el compromiso de no diseñar ni desplegar IA para:
- Aplicaciones que pudieran causar o sean propensas a causar daño general.
- Armas u otras tecnologías cuya finalidad principal o implementación sea causar o facilitar directamente lesiones a personas.
- Tecnologías que recopilen o utilicen información para vigilancia que viole normas internacionalmente aceptadas.
- Tecnologías cuyo propósito contravenga principios ampliamente aceptados del derecho internacional y los derechos humanos.
Estas directrices fueron implementadas tras las críticas internas y externas que la empresa enfrentó por su participación en el Proyecto Maven, una iniciativa del Departamento de Defensa de Estados Unidos que utilizaba IA para analizar imágenes de drones. La controversia llevó a Google a no renovar el contrato y a establecer límites claros sobre el uso de su tecnología en contextos militares y de vigilancia.
El 4 de febrero de 2025, Google comunicó una revisión de sus principios de IA, eliminando las restricciones específicas antes mencionadas. En su lugar, la compañía destacó la importancia de una supervisión humana adecuada, la diligencia debida y la alineación con el derecho internacional y los derechos humanos en el desarrollo y uso de su tecnología. En una entrada del blog oficial de la empresa, Demis Hassabis, CEO de Google DeepMind, y James Manyika, vicepresidente senior de tecnología y sociedad de Google, indicaron:
«Consideramos que las democracias deberían liderar el desarrollo de la IA, guiadas por valores esenciales como la libertad, la igualdad y el respeto por los derechos humanos. Y pensamos que las empresas, los gobiernos y las organizaciones que comparten estos valores deberían colaborar para … .»
Consecuencias y Respuestas
La eliminación de las restricciones específicas ha generado preocupaciones entre empleados y expertos en ética tecnológica. Algunos trabajadores de Google manifestaron su inquietud por la falta de participación del personal en esta decisión, temiendo que la empresa pueda sacrificar sus principios éticos en beneficio de intereses comerciales o políticos. Parul Koul, ingeniera de software en Google y presidenta de la Alphabet Workers Union, expresó:
La eliminación de las prohibiciones específicas ha suscitado preocupaciones entre empleados y expertos en ética tecnológica. Algunos empleados de Google expresaron su inquietud por la falta de participación de los trabajadores en la decisión y temen que la empresa pueda comprometer sus principios éticos en favor de intereses comerciales o políticos. Parul Koul, ingeniera de software en Google y presidenta de la Alphabet Workers Union, comentó:
Antecedentes y Perspectivas Futuras
Contexto y Perspectivas Futuras
Este cambio en la política de Google se produce en un momento de creciente competencia global por el liderazgo en IA y en medio de debates sobre cómo gobernar esta tecnología emergente. La empresa ha enfatizado la necesidad de que las democracias lideren el desarrollo de la IA, … . Sin embargo, la eliminación de prohibiciones específicas plantea preguntas sobre cómo Google equilibrará sus objetivos comerciales con las consideraciones éticas y sociales en el desarrollo y la aplicación de la IA.