Anthropic cree que algunas IA podrían ser conscientes y los expertos se dividen

Anthropic, la empresa que desarrolla el chatbot Claude, cree que algunas herramientas de inteligencia artificial podrían ser conscientes. Según la BBC, la compañía reconoce que no hay respuestas claras sobre si estos sistemas sienten algo, y aun así redacta normas sobre el bienestar de sus modelos. Claude podrá terminar la sesión si un usuario actúa con crueldad de forma repetida.

A finales de septiembre se difundió una supuesta cámara de tortura de IA: un programador anónimo creó un sistema que hace que los chatbots expresen angustia como si sufrieran. El caso desató un pánico moral hasta que la empresa se pronunció una semana después.

Mustafa Suleyman, director ejecutivo de Microsoft AI, escribió en un ensayo de septiembre que, si esa idea arraiga, tendría un efecto desastroso en el bienestar de la humanidad. Según él, trastocaría las bases políticas y éticas de la convivencia.

Desde la crítica, Andrzej Porębski, investigador de la Universidad Jaguelónica de Polonia que estudia la IA y el derecho, teme que la idea sirva para que las empresas eludan la responsabilidad por los errores de sus sistemas. Jeff Sebo, de la Universidad de Nueva York, advierte de que conceder derechos a estos sistemas podría afianzar el poder económico de las grandes compañías.

Sebo, que defiende el bienestar de la IA, considera que hoy la probabilidad de conciencia es baja, pero no nula, y que proteger a los chatbots del maltrato es una medida pequeña con pocos efectos negativos. Melanie Mitchell, del Instituto Santa Fe, recuerda que las personas tienden a ver mentes en todas partes y que los chatbots están entrenados para alimentar esa tendencia.