Mitigar el riesgo de extinción de la Inteligencia Artificial debería ser una prioridad mundial junto a otros riesgos de la escala social, como las pandemias y la guerra nuclear(1). Así de dramática es la declaración que firman decenas de expertos para alertar al mundo sobre la IA, entre ellos los artífices de OpenAI, ChatGPT, Microsoft y Google DeepMind. También los acompañan especialistas de universidades élite, como MIT, Harvard, Columbia, Oxford, Cambridge, Cornell, Chicago, Yale, Toronto, Berkeley, Stanford, New York, Michigan, Princeton, entre otras. Veamos por qué.
La declaración es la secuela muy severa de una carta pública de fecha 22/3/2023, que ya supera las 32.000 firmas de expertos y periodistas, que comentamos en aquella ocasión.(2) Los propios chats de IA alertan lo siguiente. ChatGPT4: «El impacto del riesgo está en el empleo, la privacidad y la seguridad. También hay preocupaciones sobre la IA de alto nivel, a menudo llamada superinteligencia, que podría, en teoría, superar a los humanos en la mayoría de las tareas económicamente valiosas. Sin embargo, estas son áreas de investigación activa y gran debate, pero no son indicativos de algo inminente como la «declaración de extinción humana». Continuamos con Bing de Microsoft.
Los riesgos fundamentales son tres: accidentes, mal uso y carrera armamentista. Los sistemas de IA en ocasiones funcionan mal. Por ahora, los daños que pueden causar son limitados, aunque ya ocurrieron accidentes fatales con coches autónomos. Wikipedia: Dos fuentes de preocupación son los problemas del control y la alineación de la IA con una máquina superinteligente, o inculcarle valores compatibles con los humanos que pueden ser un problema más difícil de lo que se supone con ingenuidad. El otro riesgo es la “explosión de inteligencia” a través de sucesivos y rápidos ajustes de IA hasta superar al humano y tomar sus propias decisiones. Será necesario regular a escala mundial esta industria emergente.
@rrangelaldao