Inteligencia Artificial: críticos y líderes tecnológicos debatieron en el Bletchley Park

El Bletchley Park, el lugar en donde se descifraron los códigos nazis en la Segunda Guerra Mundial, acogió a detractores y partidarios de la IA, que discutieron sobre sus ventajas y riesgos.Fue en Bletchley Park donde el famoso matemático y analista de cifrado británico Alan Turing meditó sobre la cuestión de si las máquinas podían o no pensar. Y fue allí donde encontró las respuestas que finalmente condujeron a la invención de la famosa máquina de Turing, precursora de lo que se convertiría en el ordenador.

Justo en ese lugar algunos de los cerebros tecnológicos del planeta se reunieron hasta el jueves para debatir sobre el futuro de la inteligencia artificial (IA), sus riesgos y oportunidades, tras el lanzamiento de ChatGPT por OpenAI en noviembre del año pasado.

La cumbre, celebrada cerca de Londres, contó con la presencia de destacados políticos, académicos y directivos de empresas tecnológicas como Elon Musk, de Tesla, Yann LeCun, científico jefe de IA de Meta Platforms, y Demis Hassabrisks, cofundador de DeepMind.

Declaración sobre modelos de IA de vanguardia

El gobierno británico publicó la llamada Declaración de Bletchley, suscrita por 28 signatarios, entre ellos China y la Unión Europea. La declaración alaba el potencial de la tecnología para mejorar el bienestar humano, pero también insta a limitar sus riesgos.

La IA está empezando a moldear nuestra vida cotidiana como ninguna otra tecnología lo había hecho antes. En el Reino Unido, por ejemplo, el gobierno utiliza herramientas de IA para decidir sobre solicitudes de ayudas sociales. Los profesores dispondrán pronto de un asistente pedagógico, que les ayudará a planificar las clases. Sin embargo, crece el debate sobre cómo hacer frente a los peligros derivados de la IA, como promover la discriminación y la desinformación, o incluso poner en peligro la democracia y la civilización humana.

En Bletchley se debatió sobre la conveniencia de poner en pausa el desarrollo de modelos de IA “de frontera” de nueva generación y sobre la “amenaza existencial que esta tecnología puede suponer para la democracia, los derechos humanos, los derechos civiles, la equidad y la igualdad”, según resumió el gobierno británico los debates en un comunicado.

Padrino de la IA aboga por la regulación

En vísperas de la cumbre, hubo desacuerdo entre los participantes sobre si dar prioridad a los riesgos inmediatos de la IA o a la preocupación de que pudiera conducir al fin del mundo. Algunos expertos también habían advertido de que la cumbre podría centrarse demasiado en la autorregulación.

El informático canadiense Yoshua Bengio, considerado uno de los “padrinos” de la IA, dijo a DW que la reunión marcaba un “momento histórico”, porque los gobiernos empezaban a “tomarse en serio los riesgos de la IA”.

Desde el lanzamiento de Chat GPT, Bengio ha estado advirtiendo sobre los peligros de la IA, preocupándose de que los humanos pudieran perder el control sobre los sistemas cuando éstos no se comportaran según sus instrucciones. Bengio aboga por una regulación estricta, que obligue a las empresas tecnológicas a demostrar que sus modelos son seguros. “Sólo cuando lo hayan demostrado se les permitirá construirlos”, añadió.

Dame Wendy Hall, catedrática de informática y asesora del gobierno británico en materia de IA, también cree que no se debe dejar la regulación de la tecnología en manos de las empresas. “Sería como pedir a la industria tabaquera que dejara de fumar”, declaró a DW.

Coordinación internacional

El ministro alemán de Asuntos Digitales y Transporte, Volker Wissing, no está tan convencido de la necesidad de normas estrictas. Él ve sobre todo oportunidades, mientras que otros ven riesgos. “Queremos la mejor tecnología, no los mejores reguladores”, dijo a DW, añadiendo que era “importante preservar nuestra competitividad… necesitamos IA fiable de Europa”. Wissing cree que no es necesario crear un regulador alemán especial de la IA, ya que la regulación “debería coordinarse a nivel europeo e internacional”.

Estados Unidos y Gran Bretaña, por su parte, han anunciado que están en proceso de crear institutos nacionales de seguridad de la IA. En una entrevista con agencia de noticias Reuters, el jefe de Tesla, Elon Musk, dijo que “preocupa que los gobiernos puedan precipitarse con las normas antes de saber qué hacer”.

(jov/ers)