Europa Press
Ante las advertencias que vaticina el fin del mundo y de la humanidad a manos de una inteligencia artificial (IA) cada vez más avanzada, el director ejecutivo de Nvidia, Jensen Huang rechaza estas narrativas, afirmando que “hay un 0% de probabilidades” del fin del mundo llegue a finales de esta década.
Los riesgos que la inteligencia artificial tiene para la humanidad han destacado en las últimas semanas en los discursos de líderes del sector, como el director ejecutivo de Anthropic, Dario Amodei; del director ejecutivo de OpenAI, Sam Altam; e incluso de un antiguo investigador de Anthropic, Jacob Coxon, que han llamado a frenar el ritmo de desarrollo de esta tecnología.
Los tres han alertado de una IA autónoma con capacidades cada vez más avanzadas que no siga las instrucciones de los humanos e incluso llegue a ser “lo suficientemente inteligente como para matarnos”, según advirtió Coxon, después de haber afirmado que “las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década”.
Para el director ejecutivo de Nvidia, Jensen Huang, estas advertencias son “narrativas apocalípticas” que solo buscan asustar a las personas. “El 2030 no va a ser el fin del mundo. Hay un 0% de probabilidades de que lo sea”, aseguró en una entrevista a CBS News.
Nvidia es una de las empresas que lideran la IA actualmente, como proveedor de los chips avanzados para los servidores y ordenadores que impulsan el desarrollo, el entrenamiento y la inferencia de los modelos. A principios de septiembre anticipó un crecimiento de los ingresos “de aproximadamente el 70%” en su próximo ejercicio fiscal (2027/2028), como consecuencia del auge de la demanda de IA que está impulsando el desarrollo de infraestructuras a nivel mundial.
Precisamente, por su posición en el mercado de la IA, Huang subrayó que “el éxito” de Nvidia está directamente relacionado con el despliegue seguro de sus productos y servicios. “Si no continuamos haciéndolo, nuestro valor disminuirá”, apostilló.
Detrás de estas advertencias se encuentran dos problemas relacionados con las capacidades avanzadas de la IA: la desalineacion y la automejora recursiva. El primer concepto hace referencia al comportamiento de la IA que no se ajusta a lo esperado, en base a valores, intereses o intenciones humanas. La automejora recursiva, por su parte, es una técnica que permite que un sistema de IA diseñe y desarrolle de forma autónoma a su sucesor.
Anthropic ha propuesto recientemente evaluar el ritmo de desarrollo de la IA en base a tres puntos críticos que permitan constatar lo avanzada que está la autoconstrucción de una nueva versión de la IA, la capacidad de la empresa para supervisar e intervenir en las acciones que los agentes realicen en sus sistemas y la capacidad de cómputo necesaria para desarrollar los modelos más capaces.
