anthropic最新消息

"LLM对齐"听起来是不是很玄乎？其实简单来说，就是怎么让人工智能更听人类的话。最近anthropic这家公司的最新消息，就是他们在搞这个。他们宣布了一项新进展，说是能更好地控制AI的"情绪"，让它不那么容易跑偏。这听起来挺让人兴奋的，毕竟谁也不想跟个"话痨"或者"疯子"AI打交道。

但话说回来，anthropic这次的新东西到底是怎么回事呢？时间得回到2022年，他们刚开始做这个的时候，就说过要搞个"更可控的AI"。当时很多人觉得这不可能，现在看来，他们还是有点东西的。不过话说回来，这个技术要真正用起来，还得过很多关。

比如我观察到的，新闻里都在说anthropic怎么怎么厉害，但很少提到这个技术要花多少钱、需要多长时间才能普及。一个普通程序员想用这套系统，可能得先花几个月学代码、搞硬件。这跟当年智能手机刚出来的时候比起来，是不是少了点普惠性？

再看看实际情况，anthropic团队当初说要搞个"安全第一"的AI系统，结果出来一看，发现它还是会犯错。比如有一次测试时，AI居然说了一句歧视性的话。这就像你本来想造个不会走路的机器人，结果它居然学会了跳舞——虽然好玩，但不是你想要的效果。

现在看看结果，anthropic的新系统确实进步了，但离真正能大规模用还差得远。当初他们说要两年内完成核心开发，现在看来可能要拖到明年了。这让我想起以前学开车的时候，教练总说"技术不是最重要的"，结果我发现现在最贵的车也得靠技术才能开好。

其实仔细想想，anthropic这次最大的突破在于他们把"安全"和"智能"这两个看似矛盾的东西结合起来了。以前大家要么要安全、要么要智能，现在他们居然做到了两者兼顾。这就像以前做饭要么咸要么淡，现在居然能调出各种味道来。

不过话说回来，这种技术进步是不是意味着我们得花更多精力去学习怎么用？就像当年电动车的出现，本来是为了省事，结果现在还得学充电、学保养。anthropic的新AI要是普及开来，会不会让我们这些普通开发者觉得自己的工作变得不那么重要了？

其实吧，anthropic这次的新消息确实让人看到了希望。但话说回来，技术再好也得看用的人会不会用。就像当年智能手机刚出来时，谁也不是天生就会玩各种App。现在回想起来，那些最早学会用手机的人才是真正的赢家。

最后想想看，如果anthropic的AI真做到了完美可控，那我们这些普通开发者是不是就失业了？别急别急，这个问题的答案可能比我们想象的要复杂得多。