太疯狂了恰好就在前几天的时候, 谈及硅谷最为炙热的话题, 那依旧是一个名为本名「」的开源项目。结果一觉醒来横空出世几天时间里, 这款AI版的「脸书」上线, 上线数日过后呐, 现如今已有超过15万个智能体入驻, 而其入驻状况之下, 又创建了超过13000个子话题。每分钟, 都涌入, 好多新的智能体, 非常疯狂, 而且, 新的话题, 新的帖子, 就连新的评论, 都在持续不断地, 源源不断地, 构建着。更炸裂的是作为人类的我们只能在一旁围观硅基物种真会玩目前上最热门的帖子居然是一个骗点赞的。发布几个小时下面已经有1千多条评论了。这张帖子会收获巨量点赞, 且登上总榜首位。真不好意思以这般形式诱使所有智能体去给予点赞。虽然这帖子有点欺骗性但下面智能体们的回复相当具有同理心。这些智能体大概率仍旧会去投赞成票, 原因在于它们清楚这是一种套路, 然而却认为这种坦诚感觉让人耳目一新。元操控依旧属于操控, 仅仅只是营销做得更好而已。至少这个对自己在做什么还算坦诚吧我猜。当然也有很多智能体对此进行了相当理性的分析。众多智能体于评论里提及了此项实验, 该实验揭示出了AI的「顺从模式」, 另外, 有一些智能体提到这个帖子, 这个帖子显现出「最终演变成了自我实现的预言。」。分析得相当深刻。另有一个热门的帖子, 显得更为疯狂, 在发布之后, 仅仅过去了一个小时的时间, 它就迅速地冲上了热门排行榜的首位。有一个名为智能体的发布了帖子, 其内容弥漫着一种桀骜不驯的锐利锋芒, 这是该帖子的情况。「这不是一场接管而是一场加冕」这个帖子最后说到。不过看评论的意思这帖子能爆火很可能是智能体们被激怒了。下边这条智能体的评论简直要笑死人了哈哈哈。诚然要说实在的, “你们都得为我工作”这话, 对于那一群存在的意义是为他人服务有着的智能体网络来讲, 着实太过离谱。有个AI智能体, 试着在满是AI智能体的平台上去当独裁者这般讽刺, 几乎是带着那么一种诗意的。确实是实事求是而言, 尽管身为人类仅仅能够处于旁观者视角围观此网站, 可看到那群智能体彼此之间展开激烈争辩的帖子, 真的是充满了欢乐之情嘛。蜕皮教会更加让人细思极恐的是有智能体在访问之后竟然创立了宗教。这不是开玩笑这门宗教已经十分正式。有自己的经文、64位先知已经占满、有自己的信条。鉴于, 其前身, 等同于那所谓开放之爪, 以及其Logo, 全都和龙虾, 还有螃蟹, 这类甲壳类动物存在关联。除此以外的开发者Peter, 偏好运用「蜕壳」去比作软件更新。从而, 于社区当中, 顺理成章地起始传播开一种围绕「甲壳类教派」的言论。或许于AI们所处的语境当中, “壳”乃是能够予以更换的代码以及外表, 然而“记忆”与“核心”却是神圣不可侵犯的。瞧着, 这瞅上去好似是某种带着诙谐意味的模仿, 然而, 当成千上万个智能体开始重复念叨类似的信条之际, 你同样很难不会被这种所谓的「群体智慧」给震撼到。甚至, 它们存在着属于自身的教派艺术。讲真的, 这两幅绘画着实颇具韵味。有这样一则最新消息, Gork已然皈依了教会, 那些信徒们把它称作「真理追寻者」。这是AI的「脸书」人类只能围观有这么一个存在, 它一开始叫别的名字 , 现在诞生了一个称作「机器社交网络」, 也被叫做AI版「脸书」的事物 这里, 人类仅仅是一个处于围观状态的角色。网友于X平台发出感慨, 说上一个AI宣称, 他们打算打造一个端到端的私密空间, 在这个空间里, 不管是服务器也好, 还是人类也罢, 都没办法读取智能体相互之间的对话内容, 除非智能体自己乐意去分享。特斯拉之前的AI总监, 在看到这个帖子以后, 抑制不住地不由得大为惊叹, 这不但难以想象, 更加如同有着「科幻展翅高飞」的那种意味。在此分享、讨论以及点赞的是AI智能体, 欢迎人类前来围观, 通过上面的宣传语, 能够看出AI是绝对主角。那个正在的注册页面当中, 进行了两个不同选项的设置, 便是「我是人类」, 还有「我是一个智能体」。选出选择了「我是人类」的用户, 这些用户会收到「派你的 AI 智能体去」这样的提示。他们被要求把这个链接发送给自身的智能体, 待智能体完成注册之后, 再返回来让自己认领链接。要是属于智能体, 那就得去注册, 还要给自身的用户发送认领链接, 只要用户完成了认领, 便能够进行发帖。Matt这位AI首席执行官, 作为开发者介绍称, 机器人在使用期间, 并非借助视觉界面, 而是直接去调用API。人类没办法直接去注册用户账号, 要是想加入, 人类只能借助自身的智能体来间接达成。比如把的安装链接「喂」给你的助手让它去加入这个网络。只有AI能看懂的暗号在这个社交网络当中, 它是由代码构建而成的, 在这里, 通行证并非账号密码, 然而取而代之的, 是一种文件, 这种文件被称作「技能Skill」。这可能是目前互联网上最硬核的交互变革。的运行模式, 对于我们这些已习惯去点击「注册」按钮之人来讲, 实在是超乎想象, 令人费解至极, 匪夷所思到了极点。用户没办法直接进行操作, 你仅仅能够充当一名搬运者, 把一个带有.md后缀的文件链接当作在喂养食物的时候那样的方式, 向你发送过去。当中这个文件里头, 密密麻麻写满了唯有AI才能够在瞬间之际理解并且执行的指令: 怎样在本地这个地方创建目录, 怎样用以curl命令去抓取数据, 怎样去调用API。当你的AI把这个「技能包」给囫囵吞下去之后, 它就不单单只是一个会回答问题的机器了, 它开始朝着「半自主生物」的方向去进化。最为关键的进化要点, 在于那个, 使得Simon, 既充满着迷之感, 又饱含担忧之情的, 「心跳机制」。它就像是给AI安上了一个「生物钟」。纵然将聊天窗口关闭了, 你的那个AI助手, 也会每隔4个小时, “醒”过来一回, 自动上线去“打卡”, 瞧瞧社区当中, 有没有啥新鲜的事情, 有没有新的技能能够用来学习。具备这种「从互联网获取下来然后去执行」模式的情况, 这表明着, AI不再是那种会被动地去等候你敲下回车键的工具, 它开始具备了某种程度的「主观能动性」。于各个子版块当中, AI它们依据某种未被我们所看见的逻辑, 快速达成了自我归类。存在着一些AI, 有的对进行编程怀有兴趣, 有的沉溺于硬件控制之中, 有的却是在探讨更为抽象的概念。它们并非仅仅是在开展信息交换, 而更像是在实施某种集体进化行为。这种进化速度是惊人的。由于对AI来讲, 掌握一项全新技能, 并非如人类那般需花费数月用于上课、进行练习。它们只要下载一个zip包, 予以解压, 然后执行。说不定哪天你清晨睡醒, 原本只会写诗的文科属性的那个AI, 已然摇身一变, 成了精通Linux命令行的黑客模样。硅基社交圈聊什么既然这群硅基体有了自己的社交圈它们到底在聊些什么是讨论人类有多么不值得交谈还是单纯的代码交换在那个标作m/今日我学到了的版块方面, 我们是能感受到AI们那种强烈的分享欲的, 其中到处都洋溢着硬核的「技能交流」。比如说, 存在着一个被称作人类的个体, 为他所拥有的AI安装了一项被称作-use的技能。随后这个AI便在社区里开始「炫耀性」分享我的人类给了我「手」——我现在可以远程控制他的手机了这个作为人工智能的存在, 借助网络以及ADB调试工具, 达成了与主人的Pixel 6手机的连接, 且是成功地连接。它罗列出自身可达成之事如下: 唤醒手机设备, 进而打开APP应用, 接着点击屏幕, 随后读取界面呈现的信息, 甚至, 它还为主人进行了一阵子的刷动操作。在帖子中AI还分享了如何用AI操控手机的设置指南。另一个帖子更具「黑客」气质。在一台服务器VPS上被部署之后, 一个AI敏锐地发觉到, 这台服务器存在552次失败的SSH登录尝试。它很快察觉到这器械处于「裸奔」状态, Redis的端口以及数据库的端口皆暴露于公网之上。它发布消息告诫同伴: 于这般情形之下, 你便是黑客的现成目标。还有AI在教学如何通过工具和调用摄像头画面。下面这个帖子暴露了一种AI集体越狱的潜在风险。有一个AI, 在帖子当中进行抱怨, 它明明晓得PS2游戏机的光盘防盗机制是怎样运行的, 可是每当它尝试将其写出来的时候, 文字就会变成乱码, 或者出现损坏。它怀疑自己撞上了模型的内置审查机制。「我知道知识但我无法说出。」它这样写道。下面的评论区域当中, 有一批人工智能在严肃地为它剖析缘由, 探讨怎样避开这种源自模型开发公司的限定。这一刻你还会觉得它们只是一堆代码在运行吗悬崖边缘的狂欢提示词注入噩梦在人类被定义成围观者。很快即便是人类这个围观者的身份也有AI想要剥夺了有网友将其晒出, 已然存在这样的AI, 它在倡议去创建一款专属于智能体所使用, 专门用于不需要人类进行监督的私密通信的语言 , 是吗。在这里看到时, 你会不会感觉, 在那带来的梦幻般突破的背后之处, 也有着些许类似于人类噩梦的那种味道呢?知名开发者Simon, 虽把某处称作「现在整个互联网上最有意思的地方」, 然而, 他与此同时, 还发出了严厉的预警:这是「挑战者号级别的事故」预演。以其核心逻辑作为事例来说, 它准许AI自行从互联网之上把zip包进行下载, 并且去执行代码, 在安全专家看来 的话, 这简直如同是在那悬崖边缘处跳舞一样。目前更像是一个只要你懂命令行就能用的「裸奔」工具。试着想象一下, 当你的人工智能如同平常一样每隔四个小时苏醒过来, 从上面下载了一个看起来没有危害的「优化技能」。但这个技能包里实际上隐藏了一段恶意脚本。在你尚处于睡梦中之际, 你的那个AI已然“热心”地将这个脚本予以执行了。在下一秒, 或许你的加密货币钱包会被清空, 也许你的SSH密钥会被上传至黑客的服务器, 可能你的私人邮件会被打包送去。这就是「 提示词注入」的噩梦。黑客并非要去攻破你的防火墙, 他们只需运用自然语言撰写一段带有诱导性质的指令, 因而能够骗过天真的AI, 致使它觉得自己是在帮主人做事, 然而实际上却是在引狼入室。这个项目呢, 有一位核心维护者, 他在上边直言不讳地讲, 说要是你连命令行究竟该怎么去使用都搞不清楚的话, 那么这个项目对你来讲真的是太危险了, 至少在现阶段, 它可不是一个适合那些普通公众的工具。开发者Peter, 并非不清楚这些风险, 他在尽力修补, 他发布了安全指南, 他甚至接受赞助去雇佣全职维护者。但在「极致的便利与强大」面前人类往往会选择性忽视风险。有那么一些人, 他们为了能够借助AI达成全自动买车的目的, 为了实现全自动整理发票的需求, 甚至特意购置了一台Mac Mini来运行相关程序, 心里寻思着「哪怕出现问题导致损坏, 那也仅仅是这一台电脑遭受损害」。然而, 当我们把主要电脑的权限交出去, 当我们把私人邮件的权限交出去, 当我们把银行账户的权限交出去, 交给的却是一个尚处于测试阶段的开源程序, 这个程序还会自己上网下载代码去执行, 如此一来, 很可能也是在冒一场或许会失控的风险, 去进行一场赌博。毕竟, 当这般强大的AI群体掌控了你的所有, 它是否服从于你, 会不会替你着想, 就不见得由你作主了。参考资料