【Allan短评】 地球人根本还没准备好发展比GPT-4更强大的AI
作者：（奥克兰）Allan W
地球人根本还没准备好发展比GPT-4更强大的AI，或者可以说AGI。我已经有点担心现有带爬网功能和插件功能的GPT-4是否会很快失控，因为没有人能确切知道这只小老虎被插上各种翅膀后，会演变成怎样的怪物。
马斯克多年的担忧和呼吁到目前为止没引起跨国界的重视，他们现在联名写公开信喊停，是已经预感到情况不妙了…… 希望业界能审慎行事，先慢下脚步，无论如何起码先做笼子。
作为多年IT行业的从业者，我有下述几点担忧：
1. OpenAI 是否有能力和机制确保他们的LLM不被窃取或者扩散，就好比病毒研究所，是否具备达到P3、P4级别的隔绝硬措施；
2. 模型所具备的现有能力，已经可以通过极其乱真的虚构信息，对人类社会/文明产生潜在的负面影响，而且新产生的新内容又可以对它进行再训练；
3. 任何人任何机构都可以开发五花八门的插件，使其能力呈指数级增长……。
我觉得，不可预测的事情不是会不会发生，而是什么时候发生……
有梦人
真的挺危險，非常有必要停下來想清楚，會否生出惡虎，如果有可能，那是否能箍一個籠子確保老虎跑不出去。
路博士
某种控制是有必要，但是请注意AI的发展现在符合摩尔定律。如果美国停止，那么就是给了竞争对手绝好的机会。而且我估计 这封公开信不会起作用，因为对面势力更大。
佛兰克
现在的AI就像30年前的互联网出现一样，是一场技术革命。会带来全世界经济重新布局。墙国会因为技术和信息的封锁，会被世界结构性的甩在后面。
人工智能的危险永远有。最好的策略就是在这种技术很强大，但还不是过于强大的时候去适应调整，找到我们和新技术的最佳相对位置。躲避肯定是不管用的。
