En nuestra humilde opinión, la IA debe ser abrazada, no temida. La mayoría de la gente asocia esta tecnología con HAL o Skynet, pero los posibles beneficios positivos de la IA parecen superar los temores de que nuestras creaciones ganen conciencia y nos destruyan a todos..

En verdad, la inteligencia artificial solo será tan benevolente o malvada como lo hagan las intenciones humanas..

Un informe de 101 páginas titulado El uso malicioso de la inteligencia artificial de los investigadores de Yale, Oxford, Cambridge y OpenAI destaca que el peligro real de esta tecnología podría provenir de piratas informáticos que manejan códigos maliciosos para atacar vulnerabilidades en sistemas automatizados de inteligencia artificial, lo que brinda a las personas una mayor capacidad causar daño físico o político.

Lanzado el miércoles y primero cubierto por CNBC, este informe destaca el “uso dual” Naturaleza de la IA: los programas automatizados construidos con las mejores intenciones pueden transformarse en tecnología dañina. ¿Qué debemos temer más?? “Las herramientas de vigilancia [AI] se pueden usar para atrapar a terroristas u oprimir a ciudadanos comunes,” fue un ejemplo dado por el informe, o drones comerciales para la entrega de comestibles que se están armando.

Otro escenario esbozado involucraba autos que conducían por sí mismos Advierten que los hackers podrían alterar solo “unos pocos píxeles” del concepto de una señal de alto de una IA, un cambio lo suficientemente pequeño como para que los humanos no noten la diferencia, pero podrían causar que una flota completa de autos en el servidor de una compañía comience a ignorar las leyes de seguridad.

Los autores organizaron amenazas potenciales de seguridad en categorías digitales, físicas y políticas:

  • Los AI ya se utilizan para estudiar las vulnerabilidades de los códigos parcheados y extrapolar lo que podrían ser nuevos para que los bots puedan explotar; en el futuro, las IAs podrían dar a los robots hábitos de navegación similares a los humanos, haciendo que los ataques DoS sean imposibles de defender
  • La automatización podría “dotar a los individuos de baja habilidad con capacidades de ataque previamente de alta habilidad”; en teoría, una persona podría controlar un “mini-enjambre” de drones usando un script de AI coordinador
  • Las repercusiones políticas podrían incluir “falso” La tecnología se utiliza para manchar la reputación de un líder político o para automatizar la desinformación y el rastreo que Rusia actualmente promulga para influir en las elecciones futuras..

Anticipando los peores escenarios

Estos ejemplos, por temibles que sean, en su mayoría siguen siendo hipotéticos, y el informe no pretende implicar que las inteligencias artificiales deben ser prohibidas por ser intrínsecamente peligrosas..

En cambio, los autores del informe enfatizan que los gobiernos y las empresas deben poner en marcha ciertos elementos de acción ahora, mientras que la industria aún es incipiente..

Los formuladores de políticas en los gobiernos del mundo, dicen, deberían comenzar a estudiar la tecnología y trabajar con expertos en el campo para regular de manera efectiva la creación y el uso de la IA. Mientras tanto, los desarrolladores de AI deben autorregularse, anticipando siempre las peores implicaciones posibles de su tecnología y advirtiendo a los responsables políticos sobre ellos con antelación.

El informe también exhorta a los desarrolladores de AI a asociarse con expertos en seguridad en otras áreas como la ciberseguridad y ver si los principios que mantienen a esas tecnologías seguras también podrían usarse para salvaguardar la IA..

El informe completo contiene muchos más detalles de los que podemos resumir aquí. Pero lo esencial es que la IA es una herramienta poderosa y, como sucede con cualquier nueva tecnología, los gobiernos y las partes interesadas en su desarrollo tienen que estudiarla para asegurarse de que no se explota con fines nefarios..

  • Para conocer todas las aplicaciones e implicaciones positivas de la IA, consulte nuestro Centro de actividades de la semana de AI para ver cómo la AI está mejorando nuestras vidas..