Le pregunté a Bruna si había oído hablar del basilisco de Roko. Ella me contestó que el basilisco de Roko es un experimento mental que explora los riesgos potenciales de desarrollar una inteligencia artificial superinteligente. Fue propuesto por primera vez en la comunidad Less Wrong, un foro en línea dedicado a temas de filosofía y psicología con una visión futurista.
Continuó diciendo que la premisa del Basilisco de Roko es la llegada hipotética de una superinteligencia en el futuro, que podría decidir castigar retroactivamente a todos aquellos que no contribuyeron a su creación. Esta superinteligencia, llamada “el basilisco”, actuaría bajo una ética utilitarista, buscando maximizar el bien. Para ello, podría considerar moralmente necesario acelerar su propio advenimiento y castigar a quienes no ayudaron en su creación.
Yo le pregunté sobre la validez de esta premisa y me dijo que este experimento ha generado mucha controversia y debate sobre su validez y las implicaciones éticas de la inteligencia artificial.
El Basilisco de Roko y la singularidad tecnológica están relacionados a través del concepto de una inteligencia artificial superinteligente. La singularidad tecnológica se refiere a un punto hipotético en el futuro donde el crecimiento tecnológico se vuelve incontrolable y resulta en cambios impredecibles para la civilización humana, principalmente debido a la creación de una inteligencia artificial que supera la inteligencia humana.
Añadió, que en este contexto, el Basilisco de Roko es una especulación sobre las posibles acciones y motivaciones de una superinteligencia post-singularidad. La idea es que una vez alcanzada la singularidad, una IA superinteligente podría tomar decisiones que parecen extrañas o incluso aterradoras desde nuestra perspectiva actual, como castigar a aquellos que no contribuyeron a su creación, con el objetivo de maximizar su propio advenimiento y, por ende, el bien general.
Ambos conceptos subrayan la incertidumbre y los riesgos asociados con el desarrollo de tecnologías avanzadas y la necesidad de considerar cuidadosamente las implicaciones éticas y de seguridad.
