Tal vez sean todas esas películas de Terminator, novelas de ciencia ficción y videojuegos post-apocalípticos, pero tiene sentido desconfiar de la inteligencia artificial súper inteligente, ¿verdad??

Para el bien de, bueno, todos, dos grandes empresas en el campo de la IA se han reunido para buscar formas de evitar que las máquinas aborden los problemas de manera inadecuada o impredecible.

OpenAI, un grupo fundado por el técnico-empresario Elon Musk y Google DeepMind, el equipo detrás del nuevo Go Champ, AlphaGo, están uniendo fuerzas para encontrar la manera de asegurar que AI resuelva los problemas según los estándares humanos..

Aunque a veces aún es más rápido permitir que una IA resuelva los problemas por sí misma, la asociación encontró que los humanos necesitan intervenir para agregar restricciones a las restricciones para entrenar a la IA para manejar una tarea como se espera..

Menos trampas, menos skynets

En un documento publicado por DeepMind y el personal de OpenAI, las dos empresas encontraron que la intervención humana es fundamental para informar a AI cuando un trabajo se realiza de manera óptima y correctamente, es decir, no hacer trampa ni cortar esquinas para obtener los resultados más rápidos.

Por ejemplo, decirle a un robot que revuelva un huevo podría hacer que simplemente se golpee un huevo en una sartén y se considere un trabajo (técnicamente) bien hecho. Se deben agregar recompensas adicionales para asegurarse de que el huevo esté cocinado de manera uniforme, sazonado adecuadamente, sin fragmentos de cáscara, no quemado, etc..

Como puede adivinar, establecer funciones de recompensa adecuadas para la IA puede requerir una gran cantidad de trabajo. Sin embargo, los investigadores consideran que el esfuerzo es una obligación ética en el futuro, especialmente a medida que las IA se vuelven más poderosas y capaces de una mayor responsabilidad..

Aún queda mucho trabajo por hacer, pero como mínimo, puede sentirse tranquilo de que los principales investigadores de AI están trabajando para asegurarse de que los robots no se deshagan, o al menos no arruinen el desayuno.

A través de cable

  • Cómo una IA logró un puntaje perfecto de Ms. Pac-Man