La ética y los peligros de la IA ante la podredumbre social

Todos los departamentos de Defensa tienen un denominador común con la aplicación de las tecnologías emergentes y especialmente con los problemas relacionados en la Inteligencia Artificial (IA)

El primer obstáculo se presenta de la mano de la confianza, entre cliente y proveedor. Los departamentos de Defensa y las Big Tech están ciertamente obligados a convivir estrechamente para acertar con los protocolos que ambos deben respetar ante las sensibles mutuas necesidades.

Los proveedores de tecnología deben mentalizarse ante una gran oportunidad y deben responder íntegramente por encima de muchas dificultades.

 

No obstante, el Departamento de Defensa de EE. UU. sabe que tiene un problema de confianza y que debe abordarlo para mantener su acceso a las últimas tecnologías, especialmente a la IA, lo que requerirá asociarse con las Big Tech y otras organizaciones civiles. Eso no es fácil y al mismo tiempo, critico.

 

Una acertada acción determinara ¿quién podría usar la tecnología?, ¿quién podría resultar perjudicado por ella?, cuáles podrían ser esos daños y cómo podrían evitarse, tanto antes de que se construya el sistema como cuando esté en funcionamiento.

 

"Actualmente, no existen otras pautas que entren en este nivel de detalle, ni dentro del Departamento de Defensa ni, francamente, en el Gobierno de los Estados Unidos"

 

El propósito de las pautas  es, asegurarse de que los proveedores de tecnología se adhieran a los principios éticos para la IA

 

Por ejemplo, las nuevas pautas no dicen nada sobre el uso de armas autónomas letales, una tecnología que, según algunos activistas, se debería prohibir. Pero se señala que las regulaciones que rigen dicha tecnología se deciden en una parte más alta de la cadena de mando. El objetivo de las pautas es facilitar la creación de sistemas de IA que cumplan con esas regulaciones. Parte de ese proceso consiste en hacer explícita cualquier duda que puedan plantear los desarrolladores.

Controlar el uso de la tecnología militar resulta difícil porque generalmente requiere una autorización de seguridad. Para abordar esto, y que los contratos del Departamento de Defensa proporcionen a los auditores independientes la autorización necesaria. Y ellos podrían asegurar a las empresas que efectivamente se están siguiendo las pautas. "Los empleados necesitan alguna garantía de que las pautas se interpreta según lo esperado"