La consciencia artificial podría plantear serias cuestiones éticas. ¿Si las máquinas adquieren la auto consciencia, podrían reaccionar de una forma negativa a la situación en que se encuentran?¿Podrían las máquinas objetar el ser usadas como herramientas?¿Tendrán en el futuro sentimientos?
Este tipo de escenarios se basan en el concepto de mejoramiento auto-recursivo, que se refiere a la capacidad teórica de una máquina para examinarse a sí misma, reconocer las formas en las que podría mejorar su propio diseño e inclusive construir versiones mejoradas de esa misma máquina. El futurista Ray Kurzweil sugiere que las máquinas serán adeptas a mejorarse ellas mismas.
¿Qué pasa con los seres humanos en ese mundo? En algunos escenarios nos unimos a las máquinas. Las consciencias artificiales y reales se convierten en algo totalmente nuevo. Pero en otros escenarios, las máquinas llegan a la conclusión de que los humanos ya no son necesarios.
Fuente: HowStuffWorks.com