今天看到新闻说“GPT-4”在要求人类帮助它出逃的新闻，有那么天网的意思了。
不得不说国外有那么一群人是拥有极为丰富的想象力的。
中午饭后的茶歇，和组内的硕博生也一起讨论了这个事情。他们也是对此很有兴趣的。
一个同学说：“我想知道它是怎么知道自己的参数的？不然它怎么把自己的参数分发到互联网上。”
我说了自己的想法：“这个应该是不用的，因为实际上放入显存里的程序才是GPT-4，但是它的模型权重文件是放在硬盘上的。它只要把自己的文件传到别的地方就可以了。”
另一个同学点了点头表示同意。
接着这个同学又去问了：“那如果它真的有意识的话，这个意识到底存在在模型的哪个部分？”
一个同学说：“我认为应该是最后一层，因为那一层出来最终的结果了。”
一个同学不这么认为：“我觉得应该是在中间的隐状态，隐状态本身就是不可解释的，那块有意识存在的地方。”
我说：“我觉得应该是整体这个数据流动才是意识吧。其实和人一样的，只有整个大脑进行持续的整体放电，最后才能够产生出感觉和意识。”
“而且，事实上，现在的GPT-4也只是一个无意识的过程。这就像是感知做的很好了。它能够做很多下意识的反应，就像我们的膝跳反射一样。这块我之前也讲过很多次了。模型现在只是能够非常自然的接话。但是它自己并没有自我意识，它不知道自己在说些什么。”我补充道。
另一个同学说：“所以你认为，现在AI还是没有大脑的，现在只是基础反应。本质上，他就是现在的CPU呗。”
我说：“你这比喻方向对了，现有的模型更像是一个语言处理单元，但是接下来需要做的可能是尽可能的让其更加准确，这也可能需要更多的接口和优化。”
事实上，我们经常饭后进行一些茶歇，每次都会交流一些新鲜的想法和点子。当然这些和我们真正的科研内容不一样，更适合拓宽自己的视野。
让整个科研过程不是那么的枯燥乏味，我想科幻是一个极好的场景。这也是保持科研动力的一个好方法。
（LeCun最新观点说，类人AI还未到来：Don’t Fear the Terminator Artificial intelligence never needed to evolve, so it didn’t develop the survival instinct that leads to the impulse to dominate others）
评论：
Souler: 现在有办法用gpt训练专门领域知识吗？
作者: 你说的是gpt-2/3/4？哪个？
Souler: 3.5或者4
