En la Universidad de Cambridge, los científicos advierten que existe la posibilidad de que las computadoras de la IA nos aniquilen a todos en los próximos dos siglos..

Un filósofo, un científico y un ingeniero de software, tengan paciencia con nosotros, esto no es una broma, se han unido para sugerir que las computadoras se convertirán en las especies dominantes de la Tierra..

Al proponer que la amenaza de la extinción humana por robot es real y no solo del ámbito de la ciencia ficción y de los partidarios de los fabricantes de papel de aluminio, los pensadores fundaron el Centro para el Estudio del Riesgo Existencial (CSER).

Abre las puertas de la bahía de pod, HAL

Huw Price, uno de los cofundadores y el profesor de filosofía Bertrand Russell, considera que este siglo y el siguiente son los dos cruciales, y advierten que no debemos subestimar la inteligencia general artificial (AGI)..

Dijo: "Parece una predicción razonable que algún tiempo en este o el próximo siglo, la inteligencia escapará a las limitaciones de la biología"..

"La naturaleza no nos anticipó, y nosotros, a su vez, no deberíamos dar por sentado a AGI. Necesitamos tomar en serio la posibilidad de que pueda haber un momento de 'caja de Pandora' con AGI que, si se pierde, podría ser desastroso..

"No quiero decir que podamos predecir esto con certeza, nadie está actualmente en condiciones de hacerlo, pero ese es el punto. Con tanto en juego, tenemos que hacer un mejor trabajo para comprender los riesgos de una catástrofe potencial". tecnologías. "

Lo siento, Dave. Me temo que no puedo hacer eso

Ahora todo esto suena bastante inverosímil, pero ese es el punto que Price está tratando de explicar. sonar poco probable que las máquinas usurpen a los humanos, pero todavía debemos prepararnos para la posibilidad de que puedan.

También participan en el proyecto Lord Martin Rees, profesor de cosmología y astrofísica, así como Jaan Tallinn, ingeniero de software y cofundador de Skype..

Cambridge dice que "las luminarias en ciencia, política, ley, riesgo y computación de toda la Universidad y más allá" están haciendo cola para involucrarse, incluidos los representantes de Oxford, Harvard y MIT en la lista.

Teniendo en cuenta que nos hemos rodeado, literalmente, con tecnología de alto funcionamiento y que está destinada a crecer, es bastante aterrador pensar que algún día podría potencialmente volcarnos hacia nosotros.

Puede que tengamos control sobre las máquinas por ahora, pero estaremos atentos a ellas, eso es seguro..