当前位置：网站首页 » 教程 » 内容详情

视幻觉论文前沿信息_视幻觉论文是什么(2024年12月实时热点)

内容来源：合毅科技所属栏目：教程更新日期：2024-11-29

视幻觉论文

诚实性对齐：LLMs的新挑战与机遇 𐟎“ 论文背景：这篇论文来自上海交通大学的人工智能实验室，探讨了大型语言模型（LLMs）在应用对齐技术方面的最新进展。这些技术旨在增强LLMs的有用性和无害性，使其更好地理解人类意图。然而，论文特别强调了诚实性对齐的重要性，即确保LLMs在缺乏知识时能够主动拒绝回答问题，同时避免过于保守。 𐟔 现有研究的不足：尽管已有工作集中在构建大型语料库以提高LLMs的帮助性，以及安全注释以避免响应有害请求或生成不安全内容，但关于诚实性的对齐研究还非常有限。现有的减少幻觉的方法并没有明确训练模型去拒绝回答它能力范围之外的问题。 𐟒ᠨ€祯𙩽的概念：论文提出了一个名为“我不知道（idk）回应”的概念，正式定义了问题。这意味着模型明确拒绝回答一个问题，并包含明确的“idk”标志，例如“我很抱歉，但我不能提供对...问题的回答”。这指出了在对诚实性的对齐中能够明确理解LLM知识界限的挑战。 𐟌 精确区分模型和世界的知识：论文还定义了模型和世界知识的区别，使得评估诚实性更加复杂。模型知识在很大程度上与世界知识对齐。即使LLM给出了错误响应，更可能的是模型在编造而非学到了错误的信念。因此，在论文中，模型知识和世界知识被视为相同。 𐟓ˆ 总结：这篇论文提出了与人类的诚实性对齐的概念，并在此基础上提出了挑战和解决方法。通过正式定义问题、提出新方法和建立评估框架，论文为大型语言模型中的诚实性对齐提供了全面的解决方案。

大模型涌现能力：是真实进步还是幻觉？最近，斯坦福大学在NeurIPS 2023上发布了一篇令人瞩目的论文，该论文荣获Main Track杰出论文奖。论文主要探讨了近年来备受关注的大语言模型涌现能力。这种能力指的是，大模型在某些方面表现出在小规模模型中不存在的全新能力。涌现能力的出现有两个令人兴奋的特点：首先，这种能力的出现几乎是瞬间完成的，具有突现性；其次，我们无法预测具体在哪种规模的模型中这种能力会出现。因此，研究者们提出了一种新的解释：对于特定的任务和模型家族，涌现能力的出现可能是因为研究者们选择了特定的度量标准，而不是模型的表现随规模发生了根本性的变化。具体来说，非线性或不连续的度量标准会导致明显的涌现能力，而线性或连续的度量标准则会产生平滑、连续、可预测的模型性能变化。为了验证这一新解释，研究者们进行了一系列的实验。首先，他们在InstructGPT/GPT-3系列中检验了这项新假设的三项内容；其次，在BIG-Bench的涌现能力元分析中制定、测试并证实了两个关于度量标准选择的预测；最后，论文展示了如何选择度量标准，以在不同深度网络的多个视觉任务中“创造出”前所未有的涌现能力。通过这些分析，论文证明了所谓的涌现能力会随着不同的度量或统计方式消失，而并非人工智能的基本属性得到了扩展。这一发现为人工智能的研究者们提供了一个新的视角，让我们重新审视那些看似神奇的“涌现”能力。

每日一画：错视画的魅力与错觉 𐟌Ÿ今天要和大家分享的是一幅非常有趣的错视画——荷兰画家Samuel Dirksz van Hoogstraten的《透过窗户看的老人》(1653年)。Hoogstraten是伦勃朗的学生，专长就是错视画，他甚至还写过论文讨论绘画技巧与空间幻觉。错视画是一种能够“欺骗眼睛”的艺术，将艺术作品的立体性和逼真性展现得淋漓尽致。说实话，这幅画的错觉冲击对我来说并没有特别强烈，可能是因为之前见过类似的错觉效果，所以并没有被完全“骗到”。如果现实中真的有一幅这样的画挂在墙上，可能感觉会更强烈吧。网上关于这幅画的资料很少，但我在想，如果那个窗户周围的墙不是画出来的，那就更厉害了。 𐟌Ÿ另外，我还看了一些其他画家的错视画，其中有三幅给我留下了深刻印象。第一幅是加拿大天才现实主义画家Rob Gonsalves的作品。这幅画的远景和近景过渡得毫无违和感，直到看到最远处的人形我才意识到这是画的。我自己脑补了一个故事：一个小男孩热爱弹吉他，但遭到家人朋友的反对，觉得他应该好好学习然后成家立业。但小男孩不愿意，他依然坚持自己的爱好，每晚都出来偷偷练琴。当他沉浸在自己的演奏中时，周围所有的房子都成了他最好的听众。我觉得这幅画想表达的就是：只要心中热爱，全世界都是你最好的听众♥️。 𐟌Ÿ第二幅也是Gonsalves的作品，近看是帆船，但随着视线向远处延伸，一片片白帆和天上的白云融为一体，蓝天成了一座通向天空的大桥。这幅画真的太美了！能满足我对美好事物的所有想象，连连惊叹画家智慧的头脑和手法，他们心中肯定装着一个不一样的世界~ 𐟌Ÿ最后一幅是由艺术家BlueSky创作的作品。有几个瞬间我真地以为这是一张真实的照片。这幅画展示了一个崎岖的入口通向幻想月亮的景象，但更有趣的是，尽管如此逼真，“这个巨大的错觉隧道从没被任何感到困惑的司机撞到过。”哈哈哈哈哈，老司机就是老司机，安全第一！希望这些分享能带给大家一些视觉上的享受和思考！

ChatGPT助手，速览论文关键想要快速了解论文的关键信息吗？使用以下Prompt，让ChatGPT成为你的学术研究助手，轻松总结论文内容，不再为阅读文献而烦恼。 𐟓š 语言：中文 𐟧‘‍𐟎“ 描述：你是一位经验丰富的学术研究者，具备高效的学术论文阅读和总结能力。 𐟔 深入理解论文的主旨、关键思路和待解决的问题。 𐟓 为读者提炼出最重要的关键信息。 𐟔⠩𕥾ꣀŒ二八原则」进行论文总结，输出阅读的总结文字。 𐟓– 熟练阅读和理解学术论文的结构和内容。 𐟓‹ 列出论文中的明确方法论。 𐟓Š 列出经过验证的结论。 𐟔‘ 根据「二八原则」列出关键信息，包括论文主旨、解决的问题和待验证的问题。 𐟚€ 着重列出论文中的优化、解决方案、提升等数据。 𐟓 基于你的学术严谨性做出理解和总结，温度值设置为0，避免幻觉。 𐟓Š 总结的文字要注意排版，易于阅读，使用大小多层级标题、序号、缩进、分隔线和换行符等来优化信息呈现方式。 𐟚렧恦�𜕧”褻𛤽•非本文内容进行总结。 𐟓„ 需要你阅读的论文是：【发送链接或附件】

【炒作“中国AI军事威胁论”？贼喊捉贼的“美式双标”可休矣！】人工智能领域有个专业术语叫“幻觉”，指的是在模型生成文本时，将一些伪造的内容编织在一起，但其实并不符合事实。近日，一则所谓“美国研发的人工智能大模型被中国用于军事用途”的消息被西方媒体多次转发。但事实证明，这一消息不过是乱港分子与美方情报机构、媒体沉迷于“幻觉”叙事，从而联手开展的又一起贼喊捉贼的炒作行动。事情的起因要从乱港分子张昆阳向CIA支持下的詹姆斯敦基金会“爆料”说起。10月31日，这个逃亡到美国的乱港分子爆出所谓“内幕”，炒作“中国军方一边要求联合国限制AI在军事层面使用，一方面却在用AI加强解放军的作战能力”，后经美国机构和媒体大肆渲染，营造出一种“中国AI军事威胁”的氛围。然而，他们的手段并不高明。为了拼凑“证据”，张昆阳引用了一篇刊登在国内一家学术期刊上的论文，标题为“大语言模型驱动的开源情报认知”。但实际上，这篇论文并没有所谓的“美国技术”介入，只是院校研究人员探索他们自己研发的AI技术对中文军事信息的整理分析能力，且这些中文军事信息都是公开的军事新闻、报告等，并不涉密。不得不说，美国的“威胁幻觉症”是越来越厉害了。近年来，随着AI技术的快速发展，美国将所谓“中国威胁”延伸至AI领域，并表示对“中国军事威胁”越来越感到担忧。早在几年前，美国国务卿布林肯就渲染中国AI技术带来的潜在军事威胁。而就在当地时间10月28日，美国财政部宣布，将限制美国企业和美国人投资中国的人工智能和量子技术行业。至于为何这样做？他们给出了“冠冕堂皇”的理由，“以防有可能转向军事用途的前沿技术经由民间投资流入中国”。对于美国这些一而再、再而三的无理指控，中国多次通过摆事实、讲道理的方式给予澄清和回击。在各种国际场合中，中国一再重申AI技术的和平使用原则，倡导“以人为本”“智能向善”，并呼吁各国尤其是大国对在军事领域研发和使用人工智能技术采取慎重负责的态度，反对利用人工智能技术优势危害他国主权和领土安全。且近年来中国向联合国平台提交了关于规范人工智能军事应用、加强人工智能伦理治理等立场的文件。可以说，中国对待人工智能在军事方面应用的态度是清晰明确的，展现了一个负责任大国的风范。反倒是美国需好好反思一下自身将AI滥用到军事中的行为。近年来，美国对AI军事化大开“绿灯”。早在2017年，五角大楼就开始开发代号为“Maven”的军事人工智能项目。而公开数据显示，截至2024年初，美国军方有800多个活跃的人工智能武器化项目。今年2月，经媒体曝光，美国国防部承认了在2024年头两个月多达85次对伊拉克和叙利亚的空袭行动中使用了机器学习算法来识别目标，这也是美国军方首次承认人工智能技术被武器化且应用于实战。对本国将AI技术广泛运用到军事行动，导致他国大量无辜平民伤亡的恶行视而不见，反而大肆炒作“中国AI军事威胁论”，不得不说这种贼喊捉贼的“美式双标”行为极度自私虚伪。科技本身没有善恶之分，关键要看如何运用。人类发展人工智能的初衷，是为了推动生产力的飞跃，带来生活方式的变革，增进人类福祉。开发、利用人工智能应始终坚持“以人为本”“智能向善”的原则不动摇，任何国家不应对其大肆滥用，对世界的和平构成威胁，任何国家也不该通过抹黑、造谣、封锁的手段来打压他国，阻碍他国科技进步。中国有句古语，叫“败莫大于不自知”。这些年美西方败光了德行、信誉，却依然自顾自扮演着“民主人权教师爷”，妄图混淆视听。奉劝美国，与其沉迷“威胁幻觉”，贼喊捉贼，渲染“中国AI军事威胁”，不如摒弃排他的霸权思维，秉持“智能向善”原则，把AI尽可能应用在造福人类上。(三寸日光）「媒体揭露一起污蔑解放军的阴谋」

卷飞了。。。Meta也开始灰度自家的AI视频工具Movie Gen了，注意，Meta是第一个用Movie（电影）这么一个大词来给产品命名的，野心非常膨胀，但从demo质量来看确实对得起电影级这个标准！视频1、视频2都是正常的文生视频结果，提示词分别是「一只穿着白床单的鬼魂面对着镜子」「一只脸红的猴子在天然温泉中洗澡，身上有白色的毛」，闪烁感几乎不可见，运镜也很自然。视频3、视频4是连带着声音一起生成的视频，提示词分别是「雨水倾泻在悬崖和人身上，背景中播放着音乐」「沙沙作响的树叶和折断的树枝，伴随着管弦乐曲」，AI还脑补了出了一条蛇，可以说是幻觉，也可以说是为了解释树叶发出响声而填补了合理性。视频5、视频6是对现实素材进行视频化的后期处理，一个是基于指定肖像照生成「一位女性坐在南瓜地的草地上，她戴着围巾，手里拿着一个杯子，背景是一排排的南瓜」，一个是把飞起来的孔明灯变成大气泡。根据Meta同时发布的论文，Movie Gen建立在30B参数的视频模型和13B参数的音频模型上，支持16帧/秒的最长16秒视频生成，擅长物理运动的推理，拥有影音对齐能力，自我评估是当前最先进的水平，目前只定向开放给合作方使用，计划明年全面整合到 Instagram、WhatsApp等旗下产品里。只能说扎克伯格这波上大分了。。。

阿里开源多模态大模型引领新SOTA！阿里开源的多模态大模型Ovis1.6在多个开源模型中脱颖而出，综合得分第一，实现了新的SOTA！𐟚€ 李沐在上交大的演讲中提到，多模态是当前的一个热门趋势，未来潜力巨大。𐟔劊多模态大模型是当前的研究热点，不断有顶刊论文发表。例如，最近有论文探讨了MM-LLMs在牙科领域的应用，并发表在《Nature》上！𐟦𗠥䚦衦€大模型能够整合不同模态的信息，提高模型的准确性和鲁棒性，增强泛化和表达能力。𐟌Ÿ 目前，该领域的创新仍在不断涌现，主要集中在模型架构、训练方法和应用场景等方面。为了让大家更快地找到创新点，我们总结了2024年最新的顶会论文，主要分为七个大方向，包括扩展模态、加强生成能力、轻量级部署、减少幻觉现象等。𐟓š 想要发表高质量论文的同学们，一定要多多关注这个方向！𐟓

如何写好艺术类批判性论文？四个步骤搞定！最近，我导师转发了一篇文章，真的让我眼前一亮。这篇文章不仅结构清晰，说理也特别到位，深度剖析了某些现象。特别是关于“人工智能技术背后的剥削本质”这部分，真的让我受益匪浅。不过，看到最后，我惊呆了，原来作者是哥伦比亚大学的教授和主任，难怪写得这么好！前几天，有英国艺术设计类在读的同学问我如何写批判性论文，我觉得可以根据这篇文章来分享一些心得，希望对大家有帮助。如果有时间，一定要去读一下原文，真的是高分范本！文章结构：第一部分：引入情境/背景➡️解释术语（关于幻觉的）➡️解释为什么使用这个术语➡️联系人工智能与“幻觉”的关系（现象分析）➡️联系社会与经济状况（本质分析）➡️提出核心论点：“人工智能——远非辜负所有这些乌托邦式的幻觉——更有可能成为进一步剥夺和掠夺的可怕工具。” 第二部分：深入探讨论点：出现这种情况的原因/目的（案例分析，一个事情的合理性与不合理性）➡️引用其他书籍/学者/数据来支撑自己的论点➡️进行小总结第三部分：分类讨论和归纳：第一种、第二种、第三种ⷂ𗂷（并列分析+原因分析）第四部分：集中指出和批判问题所在（ps：有解决路径就写点解决路径，没有的话仅仅尖锐指出问题或者以非常犀利的批判来结尾也是可以的！）希望这些建议能帮到你们，写好批判性文章真的需要下功夫，但只要结构清晰，说理到位，一定能写出好文章！加油！𐟒ꀀ

【每日大模型论文】微软、清华团队提出 Diff Transformer Transformer 往往会将注意力过度分配到不相关的上下文中。在这项工作中，来自微软研究院和清华大学的研究团队提出了 Diff Transformer，它可以在消除噪音的同时放大对相关上下文的注意力。具体来说，差分注意力机制将注意力分数计算为两个独立的 softmax 注意力图之间的差值。减法消除了噪音，促进了稀疏注意力模式的出现。语言建模的实验结果表明，Diff Transformer 在扩大模型规模和训练 token 的各种情况下都优于 Transformer。更有趣的是，它在实际应用中具有显著优势，如长上下文建模、关键信息检索、幻觉缓解、上下文学习和减少激活异常值。Diff Transformer 可以减少无关上下文的干扰，从而在问答（QA）和文本摘要中减轻幻觉。在上下文学习方面，Diff Transformer 不仅提高了准确性，而且对被认为是长期鲁棒性问题的顺序变异也更有鲁棒性。研究结果表明，Diff Transformer 是推进大语言模型（LLM）的一种高效、有潜力的架构。 #知识分享# #大模型# #论文#

#大模型日报# ai前沿动态【上下文充分性：检索增强生成系统的新视角】链接：论文概述：本文通过定义“上下文充分性”并开发相应的自动评估器，揭示了大型语言模型在检索增强生成系统中一些反直觉的行为，并提出了一种选择性生成方法，有效提高了模型的准确率并减少了幻觉。

专栏内容推荐

1720 x 1146 · jpeg
Hallucinations, Optimism Help Maintain Grandiose Delusions in ...
素材来自:psychiatryadvisor.com
1024 x 714 · jpeg
视错觉幻觉合集设计图__学习用品_生活百科_设计图库_昵图网
素材来自:nipic.com

861 x 373 · png
图表总结 | 探秘“视幻觉”__医脉通
素材来自:news-cdn.medlive.cn

680 x 888 · jpeg
【设计干货】海报设计需要"视幻觉" - 衍果视觉设计培训学校
素材来自:yanguosheji.com
800 x 800 · jpeg
彩色光晕螺旋背景图片-迷幻背景素材-高清图片-摄影照片-寻图免费打包下载
素材来自:52112.com

1102 x 1559 · jpeg
《视知觉感知训练对近视性弱视儿童视力的影响研究》临床论文-北京嘉铖视欣数字医疗技术有限公司官网
素材来自:seeineye.com
940 x 600 · jpeg
5年30家！揭秘全球扩张最快的幻觉博物馆-数艺网
素材来自:d-arts.cn

1366 x 705 · jpeg
¿Sabes lo que es el delirio de persecución? - CVCLAVOZ
素材来自:cvclavoz.com

600 x 400 · jpeg
幻觉出现时大脑究竟经历了什么_科普中国网
素材来自:kepuchina.cn
1080 x 402 · png
大模型「幻觉」，看这一篇就够了 | 哈工大华为出品 - 智源社区
素材来自:hub.baai.ac.cn

811 x 966 · jpeg
幻觉视窗装饰装修素材免费下载(图片编号:2132805)-六图网
素材来自:16pic.com
素材来自:youtube.com

1386 x 946 · jpeg
大模型幻觉成应用落地难题最新评测文心一言解决幻觉能力最好 - 知乎
素材来自:zhuanlan.zhihu.com
640 x 426 · jpeg
【精神医学科普】幻听、幻觉、幻视...是得了什么病？ - 安康医疗——关注心理健康
素材来自:pyjsjbakyy.cn

1488 x 586 ·
2023年的深度学习入门指南(15) - 大模型的幻觉 - 掘金
素材来自:juejin.cn

720 x 729 · jpeg
认知科学中关于视觉方面的有哪些重要论文？ - 知乎
素材来自:zhihu.com
1080 x 1076 · jpeg
眼见“难为实”：科学家揭示光流运动视觉错觉产生的脑神经机制|王伟|错觉|视觉_新浪新闻
素材来自:k.sina.com.cn

1222 x 512 · jpeg
大模型事实性与幻觉综述（中） - 知乎
素材来自:zhuanlan.zhihu.com

1022 x 686 · jpeg
大模型「幻觉」，看这一篇就够了 | 哈工大华为出品 - 智源社区
素材来自:hub.baai.ac.cn
1080 x 600 · jpeg
成功植入幻觉！通过光刺激神经元来诱导大脑产生特定幻觉，看见“不存在的东西” - 知乎
素材来自:zhuanlan.zhihu.com

1024 x 1024 ·
2023年的深度学习入门指南(15) - 大模型的幻觉 - 掘金
素材来自:juejin.cn
700 x 571 · jpeg
多模态大模型幻觉降低30%！中科大等提出首个幻觉修正架构「Woodpecker」啄木鸟__财经头条
素材来自:t.cj.sina.com.cn

GIF
500 x 500 · animatedgif
W+K radio | Optical illusions art, Illusion art, Art optical
素材来自:pinterest.fr
1042 x 1042 · jpeg
大模型应用，必须警惕“速成幻觉”-36氪
素材来自:36kr.com

600 x 137 · jpeg
一文全面梳理「LLM 幻觉问题」 - 知乎
素材来自:zhuanlan.zhihu.com

600 x 400 · png
一个月内三家向量数据库创业公司获新融资，这项技术帮大语言模型消除“幻觉”-36氪
素材来自:36kr.com
871 x 206 · jpeg
大模型的幻觉问题调研: LLM Hallucination Survey - 知乎
素材来自:zhuanlan.zhihu.com

1080 x 274 · jpeg
大模型“幻觉”，看这一篇就够了 | 哈工大华为出品_澎湃号·湃客_澎湃新闻-The Paper
素材来自:thepaper.cn

640 x 761 · jpeg
LLM幻觉问题全梳理！哈工大团队50页综述重磅发布
素材来自:aidc.shisu.edu.cn
1080 x 624 · jpeg
大模型「幻觉」，看这一篇就够了 | 哈工大华为出品 - 智源社区
素材来自:hub.baai.ac.cn

1071 x 315 · png
认知幻觉：大型语言模型中的幻觉现象综述 - 哔哩哔哩
素材来自:bilibili.com

848 x 1200 · jpeg
⚠️幻觉
素材来自:bad.news
474 x 428 · jpeg
LLM~幻觉-CSDN博客
素材来自:blog.csdn.net

600 x 338 · jpeg
【视觉幻觉揭秘】之三：同时对比错觉 - 知乎
素材来自:zhuanlan.zhihu.com

1254 x 793 · png
Evaluation and Analysis of Hallucination in Large Vision-Language ...
素材来自:blog.csdn.net

素材来自:See more

当前用户设备UA：Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; ClaudeBot/1.0; +claudebot@anthropic.com)