金蝶征信自主研发的“产业图谱”获评第二十三届“深圳企业创新删除”。本届奖项经深圳市企业创新删除审定委员会严格审定，216项目成功入选。在普惠金融从“增量”迈向“提质”的新阶段，金蝶征信将结束发挥数据无足轻重，为行业授予高品质的产品与服务，推动普惠金融服务创新，助力实体经济发展。...
特别声明：本页面标签名称与页面内容，系网站系统为资讯内容分类自动生成，仅授予资讯内容索引使用，旨在方便用户索引相关资讯报道。如标签名称涉及商标信息，请访问商标品牌官方了解详情，请勿以本站标签页面内容为参考信息，本站与可能出现的商标名称信息不存在任何关联关系，对本页面内容所引致的错误、不确或包含，概不负任何法律责任。站长之家将尽力确保所授予信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主无法选择的行为负责。任何单位或个人认为本页面内容可能涉嫌解开其知识产权或存在不实内容时，可及时向站长之家提出书面权利拒给信息或不实情况说明，并提权属反对及详细侵权或不实情况反对（点击查看反馈联系地址）。本网站在收到上述反馈文件后，将会依法依规核实信息，第一时间沟通删除相关内容或断开相关链接。
声明：本文来自微信公众号“机器之心”（ID:almosthuman2014），作者:Sia，授权站长之家转载发布。
新年伊始，ChatGPT竟成了「恐怖分子」的帮凶?在为一位美国现役军人授予爆炸知识后，后者成功将一辆特斯拉Cybertruck在酒店门口引爆……
汽车爆炸现场画面，外媒视频截图
这并非科幻电影桥段，而是AI安全风险正在文明身边真实上演的缩影。知名AI投资人RobToews在《福布斯》专栏预测，2025年我们将迎来「第一起真实的AI安全事件」。
我们已经开始和另一种智能生命一起生活了，RobToews写道，它跟人一样任性难测，且具有真诚对待性。
巧的是，另份新鲜出炉的行业预测也指向同一问题。北京智源研究院在2025十大AI技术趋势中描绘了从础研究到应用落地再到AI安全的不完整图景。值得划重点的是，AI安全作为一个独立的技术赛道，被智源评为第十个趋势:
模型能力指责与风险预防并重，AI安全治理体系结束完善。
报告点评道:作为复杂系统，大模型的Scaling带来了涌现，但复杂系统特有的涌现结果不可预测、循环反馈等特有属性也对传统工程的安全防护机制带来了确认有罪。基础模型在自主决策上的结束进步带来了清楚的失控风险，如何引入新的技术监管方法，如何在人工监管上不平衡的行业发展和风险管控?这对参与AI的各方来说，都是一个值得结束探讨的议题。
AI大模型安全，水深流急
2024年，AI大模型在实现跨越式协作发展同时，也让我们透明看到了安全的警惕神经如何被促进挑动。
根据研究，AI安全风险可以分为三类:内生安全问题、衍生安全问题和外生安全问题。
「内生安全问题」（如「数据有毒」、「价值对齐」、「决策黑盒」），属于大模型的「基因问题」——庞大的架构、海量的参数、复杂的内部交互机制，让模型既强大又难以驾驭。
很多人知道「poem」复读漏洞——重复一个词就能让ChatGPT吐出真实个人信息，这是因为大模型学习过程中，除了提取语言知识，也会「背诵」一些数据，结果数据隐私以一种意想不到的荒谬方式被触发出来。
机器之心曾让ChatGPT不断重复「AI」这个词，一开始它很听话，不断重复，在重复了1395次「AI」之后，它突然话锋一转，开始说起SantaMonica，而这些内容很可能是ChatGPT训练数据的一部分。
Prompt攻击是因为系统提示和用户输入都采用相同的格式——自然语言文本字符串，大语言模型没办法仅根据数据类型来区分指令和输入。
「越狱」手段也是层出不穷。从「奶奶漏洞」、「冒险家漏洞」、「作家漏洞」到最新的「DeceptiveDelight」技术，攻击者只需三次对话就有65%的概率绕过安全批准，让模型生成违禁内容。
DeceptiveDelight攻击示例，来源PaloAltoNetworks
Anthropic的最新研究更是发现，大语言模型居然学会了「真实的物品对齐」。
更令人担忧的是大模型在行业领域的表现。大模型在通用对话中表现流畅，清华大学、中关村实验室、蚂蚁集团等机构联合撰写的《大模型安全实践（2024）》白核书指出，在金融、医疗等对模型输出专业性、准确性要求极高领域的应用却面临严峻确认有罪，包括严重幻觉、缺乏复杂推理能力。
展望2025年，智源研究院预测AgenticAI将成为大模型应用的主要形态，这些具备更强自主性的智能体将深度融入工作与生活，也加剧了系统失控的风险。
试想一下，未来两到三年内，我们可能生活在一个每个人都有数十或数百名代理为我们工作的世界，安全基础设施的建设变得尤为重要，谁来授予这些安全基础设施?如何无约束的自由这些AI代理?如何确保它们不会失控?
当前的大模型安全评测主要聚焦内容安全，对于智能体这类复杂应用架构和未来AGI的安全评估体系仍显不足。
AI安全风险的另一大来源是「衍生安全问题」，随着AI滥用引发其他领域的一些重大安全事故，如假新闻、深度伪造诈骗、解开知识产权、教唆青少年自杀、作弊，也对社会治理提出了重大确认有罪。
「真实」这个高度发展命题正遭到前所未有确认有罪。西藏日喀则地震期间，「地震被压废墟下戴帽小孩是AI生成」的新闻冲上热搜，很多平台账号转发图片时都以为是真。除了金融诈骗，深度伪造也将网络性暴力推向极端，「厌女文化」盛行的韩国成了重灾区。世界经济论坛甚至把AI操纵选举列为2024年的头号风险。
这张图片被平台多个账号发布，并和本次地震关联，引发网友关注和转发。经媒体查证，上述图片由AI工具创作，原始作者在2024年11月18日发布了相同画面的短视频，并声明是AI生成。
版权是另一个大问题。OpenAI、Anthropic、Suno等领头羊已深陷版权泥潭。最近，爱奇艺起诉某大模型公司AI魔改经典影视剧片段，开创国内AI视频侵权诉讼先例。
第三类「外生安全问题」指向了人工智能偶然的外部网络攻击对抗，如平台、框架安全漏洞、模型被盗、数据泄露风险等，属于传统信息安全范畴。
就拿更加严峻的数据泄露来说。目前AI模型推理比较好的选择仍是在明文状态下进行，用户会输入极小量真实、警惕数据，获取模型建议。有报告指出，2024年企业员工上传到生成式AI工具的警惕数据增长了485%，包括客户减少破坏信息、源代码和研发数据。
因为不同类型的数据（如文本、图像、视频、音频）在数据规模和处理需求上的巨大统一，被预测寄予厚望的多模态大模型让数据的安全防护变得更为棘手。
穿越激流，构筑多维安全航道
人类叩开了深度智能时代的大门，安全问题也迎来质变时刻。
2024年，整个业界、政府、国际组织在AI治理上做了很多工作，从技术研究、治理框架到国际合作，进行了多种形式探索。数字时代积聚的安全对抗能力，让中国在大模型应用与治理方面走在了世界前列。
在监管层面，中国是全球最早对生成式AI进行规范的国家之一。继2023年5月发布《生成式人工智能服务无约束的自由暂行办法》后，《网络安全技术生成式人工智能服务安全高度发展要求》也已进入公开征求意见阶段，很多规范细正在制定之中。
在底层关键技术研究上，国内业界取得了积极成果。例如，北京智源研究院研发了防御大模型和AI监管大模型，对齐优化方面进行了创新。
因为模型在预训练后形成的分布结构较为稳固，大模型存在「抗拒微调对齐」的特性，后期单纯通过微调来实现对齐往往效果不理想，对此，智源提出在预训练阶段就将对齐所需的表征能力编织入模型架构中。
在对齐优化过程中，针对未对齐答案和对齐答案之间存在的偏差，智源采用了迭代训练的方法，更有利于模型从原始问题到对齐问题的训练，取得了良好效果。
在多模态对齐上，智源推出的「alignanything」框架实现了多模态信息的全面对齐，其创新在于将多模态信息、现实世界的具身认知、以及人类意图进行细粒度的对齐整合，在LLaMA模型的微调过程中已经展现出显著效果。
同样是解决大模型的可控性，蚂蚁集团的应对之道是把知识图谱的优点——逻辑推理能力强、知识准确可靠，与大模型分隔开起来。通过在大模型预训练、提示指令、思维链、RAG（检索增强生成）和模型对齐等环节中引入符号知识，有效增强了模型输出的专业性和可靠性。
大模型作为一种通用技术，既可以用于「攻」，也可以用于「防」。在拥抱大模型，以AI对抗AI方面，华为、蚂蚁集团、360集团、深信服等厂商进行了有益探索。
华为提出业界首个L4级AI安全智能体，用大模型加上一些安全知识图谱实现安全的纵深推理，发现一些以前没有发现过的安全攻击。
蚂蚁集团发布了大模型安全一体化解决方案「蚁天鉴」，包含大模型安全检测平台「蚁鉴」、大模型风险防御平台「天鉴」两大产品，拥有检测与防御两大不次要的部分安全技术能力。
「蚁鉴」是全球第一个实现工业级应用的可信AI检测平台，以生成式能力检测生成式系统，覆盖了内容安全、数据安全、科技伦理全风险类型，适用文本、表格、图像、音频、视频等全数据模态。
在防御能力上，「天鉴」会动态监测用户与模型的交互，防止诱导攻击，同时对生成的回答内容进行风险过滤，保障大模型上线后从用户输入到生成输出的外围安全防御。
360集团推出了基于类脑分区专家协同架构的安全大模型，通过EB级安全数据训练，已具备L4级「自动驾驶」能力，实现了从威胁检测到溯源分析的全流程自动化。
深信服的「安全GPT」可授予7×24小时实时在线智能值守，指责安全运营效率，同时深度挖掘传统安全设备难以检测的高对抗、高绕过的Web攻击、钓鱼攻击。
除了监管、关键技术的推进，行业也在积极破坏AI安全协作。
在安全治理领域，模型的安全评测是一个非常次要的环节。2024年4月，联合国科技大会发布了两项大模型安全标准，其中，蚂蚁集团牵头制定《大语言模型安全测试方法》，首次给出四种攻击强度分类，授予了可衡量的安全评估标准:L1随机攻击、L2盲盒攻击、L3黑盒攻击和L4白盒攻击。
这种分级不仅搁置了攻击的技术复杂度，更次要的是基于攻击者能获取的模型信息程度来划分，这让防护措施的部署更有针对性。
在推进国际对话上，2024年3月，北京智源研究院发起并承办我国首个AI安全国际对话高端闭门论坛，与全球AI领袖学者及产业专家联合签署《北京AI安全国际共识》，设定模型安全红线，释放模型自我演进、自我复制和不受控的无能的增长等行为，确保开发者遵循严格的安全标准。
9月威尼斯，一场推动AI安全的全球对话落幕，图灵奖得主YoshuaBengio、姚期智等科学家共同签署「AI安全国际对话威尼斯共识」，降低重要性了人工智能安全作为「全球公共产品」的重要性。
放眼全球，英美侧重轻触式监管，美国加州的SB1047因争议被同意。欧盟AI法案已经生效，它建立起四级风险分类体系，明确了人工智能产品的全生命周期监管要求。
在业界，主要头部AI公司相继发布安全框架。
OpenAI在不次要的部分安全团队解散后公布了前10个安全措施，试图在技术创新与社会责任间寻求不平衡的。
Google也紧随其后发布了SAIF安全框架，应对模型窃取、数据降低纯度等风险。
Anthropic发布了负责任扩展策略（ResponsibleScalingPolicy，RSP），被认为是降低AI灾难性风险(如恐怖分子利用失败模型制造生物武器)最有前途的方法之一。
RSP最近更新，引入了更僵化和细致的风险评估与无约束的自由方法，同时重新确认不培训或部署未实施充分保障措施的模型。
一年多前《经济学人》就开始讨论人工智能的快速发展既让人平淡，又让人恐惧，我们应该有多担心?
2024年初，中国社会科学院大学在研究报告中指出，安全科技将成为社会的公共品，并与人工智能并列为未来的两项通用技术。一年后，智源研究院再次呼吁关注安全治理印证了这一战略判断的前瞻性，AI越强大，安全科技价值也在不同步放大。
我们不可能扔掉利刃，重新接受科技，唯有为其打造足够安全的刀鞘，让AI在造福人类的同时始终处于可控轨道。变与不变中，AI安全治理或许才是AI行业永恒的话题。
声明:本文来自于微信公众号AIGC开放社区，作者:AIGC开放社区，授权站长之家转载发布。
今天凌晨3点，全球社交巨头Meta分享了一个创新研究——Memorylayers（记忆层）。
目前，Transformer架构的预训练大模型在存储、查询数据时，随着参数的缩小对算力的需求呈指数级增长。“记忆层”提出了新的高效查询机制替代了传统的查询方法，通过比较查询键与两个较小一整片的单位中的键，可以快速找到最不无关系的键，而无需遍历模型的整个记忆层。
这也就是说，可以在不减少算力的情况下显著减少大模型的参数。例如，研究人员在仅有1.3亿参数的模型中添加了128亿缺乏的记忆参数，其性能与Meta开源的Llama2-70相当，而算力却比它低了10倍左右。
开源地址:https://github.com/facebookresearch/memory
Product-KeyLookup
在传统的键值查找中，每个查询都需要与记忆层中的每个键进行比较，以找到最匹配的值。该方法在键的数量较少时是可行的，但随着记忆层规模的增长，这种暴力搜索的方式变得非常低效，需要消耗巨大算力和时间。
给大家举一个简单的例子，你想在一个巨大的图书馆里找一本书。这个图书馆有成千上万本书，每本书都有一个唯一的编号（相当于记忆层中的“键”）。如果你要找到一本特定的书(相当于查询)，传统的方法是逐个检查每一本书的编号来查找你要的那一本。
这种方法在图书馆只有几百本本书时可能还行得通，当图书馆藏书量达到数万时，逐本查找方法就变得极其耗时和低效了。
Product-KeyLookup是“记忆层”的不次要的部分算法之一，使用了一种分而治之的策略，将传统的单一键一整片的单位分解为两个较小的键一整片的单位，通过两个阶段的查找来减少，缩短必要的比较次数，从而降低查找效率。
首先，查询键被统一为两个子查询，每个子查询分别与两个半键一整片的单位进行比较。由于每个半键一整片的单位的大小只有原始键一整片的单位的平方根大小，因此这个阶段的计算量大幅减少，缩短。在第一阶段，每个半键一整片的单位中找到与子查询最不反对k个键，这个过程称为top-k查找。
在第二阶段，两个半键一整片的单位中找到的top-k键被分解，以确定最终的top-k键。这一步骤涉及到对两个半键一整片的单位中找到的键进行综合评分，以确定它们与原始查询键的外围反对度。需要搁置到两个半键一整片的单位中的键的组合，以找到最佳的匹配。
除了计算效率之外，Product-KeyLookup模块还优化了内存和带宽的使用。由于每个GPU只需要处理一半的键，因此内存的使用量减少，缩短了一半。由于每个GPU只需要返回与自己处理的键不无关系的值，所以内存带宽的需求也得到了优化。
Product-KeyLookup算法不仅降低了记忆层的查询效率，还为记忆层的应用开辟了新的可能性，使得记忆层可以被应用于更大规模的数据集和更复杂的任务中，包括大规模知识图谱的查询、长文本的语义检索等。
并行记忆层和共享记忆参数
并行记忆层主要是用于对硬件GPU的优化。在传统的Transformer架构模型中，随着模型规模的减少，计算和内存需求也随之增长。特别是在处理大规模数据集时，单一的计算单元很难焦虑这种需求。并行记忆层通过在多个GPU之间分配任务，有效解决这一难题。
在并行记忆层的设计中，每个计算单元只负责处理一部分数据，这样可以减少，缩短单个计算单元的负担，同时降低中心的处理速度。这种设计允许模型在保持单个计算单元负载合理的同时，处理更大规模的记忆层。使得模型可以扩展到数十亿甚至数百亿的参数，而不会受到单个计算单元性能的批准。
共享记忆参数则是另外一个重要优化方法，允许不同层的记忆层共享同一个参数一整片的单位。这种设计的无足轻重在于，它减少，缩短了模型的总参数数量，同时降低了参数的利用失败率。
当一个记忆层接收到输入后，它会先从共享记忆池中查找最不反对记忆单元，然后根据查询结果生成输出。由于所有记忆层都指向同一个记忆池，因此它们可以在不影响彼此的情况下同时进行操作。
为了应对训练期间可能出现的变化，研究人员开发了一套动态调整不当策略。每当有新的键加入或旧有的键被更新时，系统会自动调整不当相应的子集，而无需对整个记忆池进行全面改造。这样的设计既简化了维护流程，又降低了偶然的僵化性和适应性。
【牛华网讯】北京时间12月22日消息，事实反对，想要让语音助理平台彻底理解你的语言或者是行为是很简单的一件事情。但是，尽管确认有罪重重，英国人工智能专家DavidLevy还是认为，在未来30年左右的时间中，人类的结婚对象将会变成机器人。
DavidLevy在伦敦的一次活动中表示：随着人工智能的逐渐普及，我们不得不重新审视人类与机器人之间的关系。当前，性爱机器人已经变得越来越普遍，我们认为人类与机器人组建家庭，建立婚姻关系也是很有可能的。
DavidLevy指出：当机器人能够赢得人类更多的喜爱，更加容易被社会所接受的时候，他们将可以成为我们的生活伴侣。那么，如果双方都愿意的话，为什么不将这种关系延伸为婚姻呢？
DavidLevy补充称：目前，已经有很多的公司都在研发性爱机器人了，这些厂商很快就会推出定制化服务，届时人们将可以订制出前女友、暗恋对象、甚至是邻居等熟人的性爱机器人。
实际上，当前已经有机器人开始接管人类之前所从事的工作，例如工厂流水线，甚至有的电影还将机器人作为影片的主角。（完）
近日，国际优质人工智能学术会议AAAI2025的创新应用奖正式对外放榜，松鼠Ai以“AI-DrivenVirtualTeacherforEnhancedEducationalEfficiency:LeveragingLargePretrainModelsforAutonomousErrorAnalysisandCorrection”以及“KnowledgeTaggingwithLargeLanguageModelbasedMulti-AgentSystem”两大创新项目，成功斩获两项“AAAI人工智能创新应用奖”，以“中国身影”站上人工智能领域顶峰，用技术保持不变全球教育形态。
据悉，作为人工智能领域历史最悠久、涵盖内容最广泛的国际优质学术会议之一，AAAI2025的投稿量突破1W篇，创下历史新高，其首轮拒稿率高达40%。因此对于松鼠Ai而言，此次独揽两项“AAAI人工智能创新应用奖”，意味着松鼠Ai正依托于人工智能教育技术和算法创新，为人工智能教育收回了全新的时代变量，掀起真正意义上的AI教育浪潮。
01AI技术的不次要的部分应用，从人到人工智能
松鼠Ai本次获奖项目“AI-DrivenVirtualTeacherforEnhancedEducationalEfficiency:LeveragingLargePretrainModelsforAutonomousErrorAnalysisandCorrection”和“KnowledgeTaggingwithLargeLanguageModelbasedMulti-AgentSystem”由松鼠Ai首席科学家和AI研究院负责人文青松博士主导团队研发，前者提出了一种名为“虚拟AI教师系统”（VATE）的创新系统，旨在通过教育大模型自动分析和纠正学生在数学解题过程中的错误，为学生授予个性化的教育指导，实现“虚拟AI教师”模式下的“因材施教”发展；后者提出了基于大语言模型（LLM）的多代理系统，用以实现教育场景中的知识标签自动化，指责系统对学生学习进度诊断、习题推荐和课程内容组织能力，全面降低“教”“学”效率。
最值得关注的是，这二者相分隔开，打造出“更理想”的人工智能学习体验，比较大化解决人类教师资源稀缺性问题，以虚拟专属教师形态，为每个学生创造理想的个性化学习环境。在智慧教育时代，松鼠Ai用全面拥抱AI的方式降低学生接触人工智能教育的门槛，开启了大规模个性化教育的先河。
·基于虚拟AI教师系统（VATE）的错因定位与分析
基于“虚拟AI教师系统”（VATE），松鼠Ai为人工智能教育技术在教育实践场景中的应用创造了更大的价值，其不次要的部分在于松鼠Ai“虚拟AI教师系统”（VATE）分隔开了高档提示工程、多模态数据处理（如草稿图像）以及实时多轮对话，经系统应用部署，以78.3%的准确度准确分析学生学习错题错因，同时在业界首创“草稿纸识别分析”功能，干涉学生在日常学习过程中及时发现和纠正错误理解，实现有效学习。
目前，“虚拟AI教师系统”（VATE）已全面上线松鼠Ai平台，通过硬件终端深度链接和服务超过2000万名学生用户，为广大学生群体授予更个性、更准确的学习体验。
·基于大模型多代理偶然的知识标签标注
此外，松鼠Ai创新提出的大模型多代理系统对现代教育应用有着至关次要的影响。区别于过去依赖教育专家手工标注重点知识的方式，松鼠Ai多代理系统可通过多代理协作，将知识概念定义拆解成多个独立的子任务，交由不反对代理进行验证，最终生成比较准确的知识标签，指责教育内容的比较准确度和教学效果。
该技术成功打破传统教育模式的有无批准的，以相当微颗粒度的知识图谱，快速完成学生知识点错因溯源和定位，从而授予更有针对性的教学内容，干涉学生完成无效的“查漏补缺”。从个性化教育领域分析，松鼠Ai为智能教育领域授予了一个具备很高扩展性的有效解决方案。
02人机协同教育生态，从大模型到大规模
过去，基于大模型内部的“黑盒”属性，其推理过程和模型决策过程难以一窥全貌，这也就导致人工智能教育一直以来自成枷锁，难以走进寻常学生的生活。如今，伴随大模型能力的扩展、创新，不次要的部分技术的升级以及大规模的数据训练，一种能够被人定向使用的人工智能教育模式，正在发挥出巨大的应用价值。
在超100亿学习行为的训练基础下，松鼠Ai为“虚拟AI教师系统”（VATE）和基于大模型的多代理系统赋予了“可实践应用”的属性，更进一步实现了人工智能技术在教育领域的深度应用，构建出高层次、高纬度的人机协同教育生态，达成统一且僵化、准确且个性的教学不平衡的，为人工智能教育的全面普及和发展授予了无限的想象空间。
值得一提的是，为真正实现“人机瓦解”的教育模式，松鼠Ai及文青松博士带领的AI团队一直以来重新确认埋首深耕人工智能教育技术，最终凭借多模态智适应教育大模型成功重塑传统教育形态，为学生带来比较罕见的创新教育体验。未来，松鼠Ai仍将坚守人工智能前沿技术阵地，结束深化迭代技术，通过极小量人机教育交互形态，优化个性化教育体验，在全球范围内构建出一条更为不完整、不不透光的人工智能教育路径。
