Conhecimento - A IA pode saber tudo, por exemplo, sobre o hamburguer, pode descrever o sabor dele com exatidão, mas nunca experimentou um hamburguer, está só divulgando uma informação recebida, ou seja, a sintaxe da coisa.
Uma pessoa simplória não sabe nem escrever a palavra hamburguer, mas já provou um , teve a experiência real, a semântica.
Essa pessoa conhece de fato o hamburguer.
Uma IA pode até simular semântica, mas é limitada pela falta de experiências real, uma IA não vai sentir a sensação psíquica do sabor na mordida no hambúrguer,.
Hamburguer não é só uma palavra, não comemos uma palavra, as sensações humanas ao morder o hambúrguer é que tornam esse lanche real.
Mesmo uma super IA nunca terá essa sensação de modo genuíno.
O homem no quarto chinês só traduzia as frases em chinês que recebia, mas nunca aprendeu de fato o idioma chinês, era uma tradução fria só para responder aquilo que lhe era perguntado.
Mais ou menos isso.