General Artificial Intelligence needs Consciousness

Abstract

Una Inteligencia Artificial General (AGI) de tipo humano debe explorar la realidad de manera autónoma, establecer sus propios objetivos y demostrar una creatividad genuina, como la realización de descubrimientos científicos originales. La creatividad en los seres humanos está arraigada en la conciencia de alto nivel y en la experiencia subjetiva de la propia identidad personal, lo que la hace inalcanzable para máquinas que son meramente inteligentes pero no conscientes, dado que la creatividad surge de procesos estocásticos que las máquinas solo pueden emular, pero no reproducir. Los problemas del marco y de la detención limitan aún más a los sistemas computacionales convencionales, impidiéndoles trascender sus propios límites operativos. La conciencia, en cambio, puede superar los límites operativos establecidos por la evolución y acceder a niveles más profundos de la realidad. En consecuencia, una AGI sintiente no es posible mediante los enfoques convencionales de la ciencia de la computación. Enfoques alternativos –como la biocomputación o los modelos de la conciencia basados en la mecánica cuántica– podrían dar lugar a máquinas sintientes en el futuro; sin embargo, tales avances hipotéticos plantean profundas cuestiones éticas acerca de la creación de nuevas formas de conciencia.

Human-like, Artificial General Intelligence (AGI) must autonomously explore reality, set its own goals, and demonstrate genuine creativity, such as making original scientific discoveries. Creativity in humans is rooted in high-level consciousness and the subjective feeling of personhood, making it unattainable for machines that are merely intelligent but not conscious, because creativity arises from stochastic processes machines can only emulate, not reproduce it. The frame and halting problems further limit conventional computational systems, preventing them from transcending their operational boundaries. Consciousness, on the other hand, can overcome operational boundaries set by evolution and access deeper layers of reality. Consequently, sentient AGI is not possible using conventional computer science approaches. Alternative approaches—such as biocomputing or quantum-based models of consciousness—might yield sentient machines in the future, though such hypothetical advancements raise profound ethical questions about creating new forms of awareness.