巴菲特：无法预判人工智能的前景
周鸿祎谈sora：意味着 agi (通用人工智能) 实现或从 10 年缩短至 1-2 年
巴菲特说的没错，人工智能武器化的话确实可怕。
一是从技术发展看，已经朝着强人工智能（通用人工智能）发展了。或者说，人工智能已经开始表现出形成智慧的能力，这是非常可拍的。
二是从技术应用看，目前美国一直在将人工智能应用于军事领域了。俄乌冲突可以看出来，美国将人工智能应用于情报收集和指挥控制领域了。美国提出的马赛克战，更是打算将人工智能应用于作战了。
三是人工智能在智慧化和武器化的基础上，一旦控制不好，反向操控人类，也是有可能的。
总结，人工智能是堪称比核武器更厉害的技术，毕竟人工智能监管更难，技术大规模扩散的成本低太多了。
通用人工智能将重塑场景、行业和产业格局
朱松纯 中国政协杂志 2024-05-04 17:11 北京 2人听过
人类正在跨入智能时代，通用人工智能的未来充满无限可能，但也遍布多种挑战。
人工智能作为新一轮科技革命和产业变革的重要驱动力，正在深刻地改变着我们的生产方式和生活方式。当前，人工智能技术正加速从感知、认知、理解世界向通用人工智能跃迁。以“通用智能体”为代表的通用人工智能技术，作为新质生产力重要引擎，正在引领新一轮科技革命浪潮，将从以下三个层面重塑场景、行业和现代产业格局。
人工智能场景：北京，中国科技馆，一个机器人正在弹奏古筝。（视觉中国/图）
一是加快“人工智能 场景”应用速度。过去多年来，人工智能的产业应用局限于处理一些简单的重复性任务场景，无法理解人类意图，难以认知场景中的任务，因此未能实现自主任务规划。通用人工智能作为新质生产力的典型代表，强调价值和数据的双轮驱动。北京通用人工智能研究院打造的通用智能体“小女孩——通通”已经具备了类人的基础能力，具有高度的自主性和泛化性，未来可以像人一样快速进入各行业的不同场景。目前，研究院已经联合大型央国企业打造了一批行业智能体，包括应急管理智能体、人才培养智能体、综合治理智能体、医疗康养智能体等，在应急、政务、康养、教育等领域已经实现了成熟的落地应用，推动传统人工智能向新型智能体转化升级。
二是提高“人工智能 行业”生产效率。目前大模型技术在可解释性、可靠性等方面还不够成熟，受限于两个因素：安全性——面临数据不出域的限制；实时性——实现云端协同实时处理。通用智能体是由认知架构顶层设计，以场景认知理解、自主任务规划、严肃知识管理、具身智能等为关键技术突破点，在行业的成长性高，未来能实现自主完成任务，甚至是无限个不同性质的任务，能极大缓解行业内模型“用不好、不敢用”的现状。比如，在政务、医护、法律等严肃知识领域，通过可解释ai算法建模，实现应用场景中辅助决策的可溯源、可解释、可调整、可信任，解决单纯大模型因“幻觉”问题在严肃领域产生的信息概率性失真问题。将进一步降低人工智能在产业中的风险和成本，充分激活行业价值。
三是重塑“人工智能 产业”发展格局。通用人工智能要构建开放包容的创新生态，其发展依赖于不同背景和领域的研究者、开发者以及企业之间的合作，加速实现产业链、创新链、资金链、人才链四链融合。在发改委、教育部、科技部和北京市等的指导和支持下，我们率先打造“通用人工智能协同攻关计划”人才战略力量、“通用人工智能全重实验室”科技战略力量、“通用人工智能新质生产力基金”资金战略力量和“通用人工智能产业生态”智能体生态战略力量等，构筑人才、技术、产业、投资四大生态体系，推动通用人工智能可持续发展。
人类正在跨入智能时代，通用人工智能的未来充满无限可能，但也遍布多种挑战。希望通过本次协商会，能够进一步促进各方加强交流、凝聚通用人工智能发展共识，共同推动我国现代产业创新发展，为提升人类福祉作出更大贡献。
作者：朱松纯全国政协委员北京通用人工智能研究院院长北京大学智能学院院长编辑：杨 灵校对：蒲水涵审核：史慧玲来源：《中国政协》2024年第9期
ai知识5 | 一文看懂什么是agi
agi，即通用人工智能（artificial general intelligence），是一种能够执行与人类相当或超越人类的广泛认知任务的人工智能系统。与专注于特定任务的窄人工智能（narrow ai）不同，agi的目标是具备广泛的认知能力，能够在多种不同的任务和环境中表现出高度的灵活性和适应性。agi被认为是强人工智能的一种形式，旨在实现类人智能和自学能力，使其能够执行训练或开发目的之外的任务。
agi的研究领域包括理解和响应非语言线索，如语气、面部表情和手势，以进行更有意义、更有效的沟通。此外，agi的目标不仅是理解任意通用任务，而且还要以人类的智力水平执行这些任务，除了“自我意识”的生成外。尽管agi的概念较为宽泛，没有一个特别严格准确的标准，但普遍理解的agi定义是ai系统能够在多个认知领域进行理解和推理，达到或超过人类智力水平。
创建agi是ai研究的主要目标之一，也是许多公司如openai、deepmind和anthropic等的研究重点。agi的发展可能会对社会产生深远的影响，包括质疑现有的意义和目的，扩展知识，并重新定义人性和命运。因此，利益相关者必须考虑并解决这些影响和风险，包括研究人员、开发人员、政策制定者、教育工作者和公民。
agi研究进展
通用人工智能（agi）的当前研究进展主要集中在以下几个方面：
具身智能的研究：国内外的大厂及高等学府，如微软、谷歌、斯坦福等，都在开展具身智能的相关研究。人形机器人被认为是agi的最佳载体，业界的研究进展正在加速。
基于图神经网络的研究：上海交大洪亮课题组发表了基于微环境感知图神经网络构建指导蛋白质定向进化的通用人工智能的最新研究成果，这表明在生物信息学领域，agi的研究也在取得进展。
元学习和模型泛化能力的提升：现阶段，元学习已经取得了一定的研究进展，但如何提升模型的泛化能力，在不同任务之间进行平衡和优化仍是未来技术攻破的主要方向。
数据剪枝的重要性：斯坦福和meta ai的新研究表明，在实现agi的道路上，数据剪枝比我们想象得更重要，这意味着在机器学习的多个领域中，训练数据、模型大小或计算资源的有效利用对于提高agi的能力至关重要。
大模型智能体的研究：整理了52篇2023年最新的大模型智能体相关的论文，这些研究涵盖了llm-based agent的构建、应用、评估等方面，显示了在ai agent领域的最新研究进展[xx]。
深度学习的基础科学问题：面向以深度学习为代表的人工智能方法的鲁棒性差、可解释性差、对数据的依赖性强等基础科学问题，正在挖掘机器学习的基本原理，发展可解释、可通用的人工智能方法[7]。
agi的发展阶段：谷歌提出了agi的完整路线图，将agi的发展分为6大阶段，每个阶段都有对应的深度（性能）和广度（通用性）指标，这为理解agi的发展提供了框架[9]。
通用人工智能（agi）的当前研究进展涵盖了具身智能、图神经网络、元学习与模型泛化能力的提升、数据剪枝的重要性、大模型智能体的研究、深度学习的基础科学问题以及agi的发展阶段等多个方面。