Eu acredito que só será possível criar uma inteligência de fato inteligente apartir do momento que os cientistas conhecerem 90% do cerebro humano, porém não se sabe nem a metade disso, então uma inteligência artificial ter qualquer consciência. Seria cientificamente impossível.
O que eu vejo de incrível e assustador em IA's é na verdade o oposto disso. Elas não são construidas sobre o conhecimento acerca do cérebro humano, objetivamente, mas à partir do que é produzido pelo cérebro humano. E através de estatísticas e cálculos matemáticos, alcançam um "entemdimento" intangível aos cientistas, habilitando-as a conseguirem "reproduzir" seu comportamento.
Em outras palavras, as IA's não têm evoluído de acordo com o a evolução do conhecimento sobre o cérebro humano, mas de acordo com a quantidade de parâmetros (expressões do ser humano em forma de dados) que conseguem processar.