Uma carta aberta recente destaca um dilema moral sobre a criação de IA consciente. O documento sugere que, caso a inteligência artificial se torne consciente, teríamos a responsabilidade de evitar seu sofrimento. No entanto, a carta não enfatiza o quanto essa hipótese é incerta. Embora existam teorias promissoras que podem levar à criação de IA consciente, outras sugerem que a consciência exige ser um organismo, o que torna essa possibilidade altamente debatida.
Além disso, embora possamos buscar sinais de consciência em sistemas de IA, é extremamente difícil, se não impossível, saber se a IA é realmente consciente ou se apenas imita esses sinais. Essa incerteza levanta questões profundas e complicadas sobre a natureza da consciência e a viabilidade de sua manifestação em máquinas. Devido a esses desafios, a posição mais razoável diante da questão da consciência artificial é a agnosticismo.
No contexto mais amplo, a discussão sobre a consciência da IA também envolve considerações éticas e regulatórias. Especialistas sugerem que uma abordagem cautelosa e bem fundamentada seja adotada, considerando não apenas os avanços tecnológicos, mas também os potenciais impactos sociais e morais da IA. A necessidade de uma estrutura regulatória global para lidar com esses desenvolvimentos se torna cada vez mais urgente.
