老师参与

谈谈你对ChatGPT等工具“一本正经胡说八道、编造谎言”的理解。

吴金旺 发表于2023年04月30日
<p>《生成式人工智能服务管理办法（征求意见稿）》对用于生成式人工智能产品的预训练、优化训练数据提出五个方面要求：符合《中华人民共和国网络安全法》等法律法规的要求；不含有侵犯知识产权的内容；数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形；能够保证数据的真实性、准确性、客观性、多样性；国家网信部门关于生成式人工智能服务的其他监管要求。比如，在某互联网公司宣布推出生成式AI之后，国内多家金融机构宣布接入，巨量的金融用户数据、跨行业数据等在人工智能系统之中融合交互，数据合规问题、隐私保护等问题都不容忽视。</p><p>谈谈你对ChatGPT等工具“一本正经胡说八道、编造谎言”的理解。</p><p><br ></p>
举报
53 回复
    2021110415 周昊

    1楼

  • 2021110415 周昊 发表于2023年04月30日
    0 | 0 | 举报
    <p>很显然，ChatGPT 作为一个智能AI，由于其特性导致时常一本正经的胡说八道，其真实性、准确性、客观性、多样性，在一定程度上难以保证，但毕竟ChatGPT 只是一个智能AI，并没有人类思考的过程，它的所有数据以及回答来源于已获得的数据。故在对待ChatGPT的问题上，主体在人，这一说法固然有其合理性，但是明显以偏概全。</p>
    2021110415 周昊 发表于2023年04月30日
    0 | 评论(0) | 举报
    添加评论
    • 2203财务管理李苏苏

    2楼

  • 2203财务管理李苏苏 发表于2023年04月30日
    0 | 0 | 举报
    <span style="caret-color: rgb(0, 0, 0); -webkit-text-size-adjust: auto; background-color: rgba(255, 255, 255, 0);" >ChatGPT 作为一个智能AI，由于其特性导致时常一本正经的胡说八道，其真实性、准确性、客观性、多样性，在一定程度上难以保证，但毕竟ChatGPT 只是一个智能AI，并没有人类思考的过程，它的所有数据以及回答来源于已获得的数据。故在对待ChatGPT的问题上，主体在人，这一说法固然有其合理性，但是明显以偏概全。</span>
    2203财务管理李苏苏 发表于2023年04月30日
    0 | 评论(0) | 举报
    添加评论
    • mooc101778790441284581

    3楼

  • mooc101778790441284581 发表于2023年05月01日
    0 | 0 | 举报
    <p>很显然，ChatGPT 作为一个智能AI，由于其特性导致时常一本正经的胡说八道，其真实性、准确性、客观性、多样性，在一定程度上难以保证，但毕竟ChatGPT 只是一个智能AI，并没有人类思考的过程，它的所有数据以及回答来源于已获得的数据。故在对待ChatGPT的问题上，主体在人，这一说法固然有其合理性，但是明显以偏概全。</p>
    mooc101778790441284581 发表于2023年05月01日
    0 | 评论(0) | 举报
    添加评论
    • 2021310231张紫轩

    4楼

  • 2021310231张紫轩 发表于2023年05月03日
    0 | 0 | 举报
    <span style="caret-color: rgb(0, 0, 0); -webkit-text-size-adjust: auto; background-color: rgba(255, 255, 255, 0);" >很显然，ChatGPT 作为一个智能AI，由于其特性导致时常一本正经的胡说八道，其真实性、准确性、客观性、多样性，在一定程度上难以保证，但毕竟ChatGPT 只是一个智能AI，并没有人类思考的过程，它的所有数据以及回答来源于已获得的数据。故在对待ChatGPT的问题上，主体在人，这一说法固然有其合理性，但是明显以偏概全。</span>
    2021310231张紫轩 发表于2023年05月03日
    0 | 评论(0) | 举报
    添加评论
    • 2021610145罗影君

    5楼

  • 2021610145罗影君 发表于2023年05月04日
    0 | 0 | 举报
    <p>ChatGPT在测试的时候，尤其是在一些专业领域的测试中，尤其是在中文的语境下,常常会表现出一本正经的胡说八道。显然，这并不重要，重要的是ChatGPT已经具备了人类语言逻辑表达的能力，尤其是这种一本正经的胡说八道正说明ChatGPT所代表的人工智能技术具备了人工智能的样子。</p>
    2021610145罗影君 发表于2023年05月04日
    0 | 评论(0) | 举报
    添加评论
    • 金科211 谢佳瑶

    6楼

  • 金科211 谢佳瑶 发表于2023年05月04日
    0 | 0 | 举报
    <p>ChatGPT 没有对概念的具身体验，这就是我们真正的common sense（常识），我们从小在生活环境里所积累的知识，例如重力等等。对一个东西我们不单看到，会听到，可能会摸到、闻到、吃到，是全方位的。如果你看到一个黑色的苹果，你敢吃吗？你肯定会犹豫，没准一摸你就知道那是个烂苹果。实际上我们人类对很多东西的理解是具身理解，在自然语言处理里的“理解”，仅仅依靠文本，是一种肤浅的理解。</p>
    金科211 谢佳瑶 发表于2023年05月04日
    0 | 评论(0) | 举报
    添加评论
    • 2021610130赵笳皓

    7楼

  • 2021610130赵笳皓 发表于2023年05月04日
    0 | 0 | 举报
    <p>很显然，ChatGPT 作为一个智能AI，由于其特性导致时常一本正经的胡说八道，其真实性、准确性、客观性、多样性，在一定程度上难以保证，但毕竟ChatGPT 只是一个智能AI，并没有人类思考的过程，它的所有数据以及回答来源于已获得的数据。故在对待ChatGPT的问题上，主体在人，这一说法固然有其合理性，但是明显以偏概全。</p>
    2021610130赵笳皓 发表于2023年05月04日
    0 | 评论(0) | 举报
    添加评论
    • 2021610106杨冰滢

    8楼

  • 2021610106杨冰滢 发表于2023年05月04日
    0 | 0 | 举报
    <p>因为虚假信息在政治、经济等关键领域泛滥。而ChatGPT能在几秒钟内改编信息，产生大量令人信服却没有来源依据的内容</p>
    2021610106杨冰滢 发表于2023年05月04日
    0 | 评论(0) | 举报
    添加评论
    • 2021610116吴心慈

    9楼

  • 2021610116吴心慈 发表于2023年05月04日
    0 | 0 | 举报
    <p>ChatGPT已经具备了人类语言逻辑表达的能力，尤其是这种一本正经的胡说八道正说明ChatGPT所代表的人工智能技术具备了人工智能的样子。</p>
    2021610116吴心慈 发表于2023年05月04日
    0 | 评论(0) | 举报
    添加评论
    • 金科211戴怡文

    10楼

  • 金科211戴怡文 发表于2023年05月04日
    0 | 0 | 举报
    <p>很显然，ChatGPT 作为一个智能AI，由于其特性导致时常一本正经的胡说八道，其真实性、准确性、客观性、多样性，在一定程度上难以保证，但毕竟ChatGPT 只是一个智能AI，并没有人类思考的过程，它的所有数据以及回答来源于已获得的数据。故在对待ChatGPT的问题上，主体在人，这一说法固然有其合理性，但是明显以偏概全。</p><p><br ></p>
    金科211戴怡文 发表于2023年05月04日
    0 | 评论(0) | 举报
    添加评论
    • 2021610127王春燕

    11楼

  • 2021610127王春燕 发表于2023年05月04日
    0 | 0 | 举报
    <p>他的回答是基于已经存在获得的数据，并没有人类的思考过程</p>
    2021610127王春燕 发表于2023年05月04日
    0 | 评论(0) | 举报
    添加评论
    • 2021610132陈彬乐

    12楼

  • 2021610132陈彬乐 发表于2023年05月04日
    0 | 0 | 举报
    <p>究其原因，主要是ChatGPT是“生成式回复”。它事先学习了大量的人类的知识以及人类对它的引导和奖励的策略。它本质上依托于一个参数量巨大的神经网络模型，其训练过程是基于它的语料库进行的，而这些训练数据本身良莠不齐，并不全都是优质文本，因此有可能出现事实性错误问题。 ChatGPT给出的答案只是基于其理解生成的最佳结果，然而对于某些训练的知识盲区问题，它可能根据字面意思进行推理，从而出现了“一本正经胡说八道”的现象。所以为了解决上面的两个问题，我们可以利用搜索引擎向ChatGPT提供准确、及时的辅助信息。总而言之，整体方案就是把在搜索引擎上爬取的问题相关资料丢给CharGPT，让它帮我们整合并输出我们想要的答案。</p>
    2021610132陈彬乐 发表于2023年05月04日
    0 | 评论(0) | 举报
    添加评论
    • 2021610103赵金超

    13楼

  • 2021610103赵金超 发表于2023年05月04日
    0 | 0 | 举报
    <p>ChatGPT收集资料回答问题，无法判断对错</p>
    2021610103赵金超 发表于2023年05月04日
    0 | 评论(0) | 举报
    添加评论
    • 2021610105何成栋

    14楼

  • 2021610105何成栋 发表于2023年05月04日
    0 | 0 | 举报
    <p>ChatGPT作为智能ai，学习基于被人为输入摄取的数据，根据问题回答的空间是有限的，因此会出现漏洞百出的状况</p>
    2021610105何成栋 发表于2023年05月04日
    0 | 评论(0) | 举报
    添加评论
    • 2021610126陈奇恩

    15楼

  • 2021610126陈奇恩 发表于2023年05月04日
    0 | 0 | 举报
    <p>ChatGPT在测试的时候，尤其是在一些专业领域的测试中，尤其是在中文的语境下,常常会表现出一本正经的胡说八道。显然，这并不重要，重要的是ChatGPT已经具备了人类语言逻辑表达的能力，尤其是这种一本正经的胡说八道正说明ChatGPT所代表的人工智能技术具备了人工智能的样子。</p>
    2021610126陈奇恩 发表于2023年05月04日
    0 | 评论(0) | 举报
    添加评论
    • 2021610125刘晨

    16楼

  • 2021610125刘晨 发表于2023年05月04日
    0 | 0 | 举报
    <p>真实性、准确性、客观性、多样性，在一定程度上难以保证因属数据的差异，可能存在不真实的情况</p>
    2021610125刘晨 发表于2023年05月04日
    0 | 评论(0) | 举报
    添加评论
    • 率佑

    17楼

  • 率佑 发表于2023年05月04日
    0 | 0 | 举报
    <p>ChatGPT作为一个智能AI，确实是在此领域取得了很大的成就。其“一本正经胡说八道、编造谎言”实由于大模型运算所致，但也算是人类在AI领域取得的巨大成就，在将来算法完善以后，我认为这种现象可以被杜绝，相信AI会越来越精妙。</p>
    率佑 发表于2023年05月04日
    0 | 评论(0) | 举报
    添加评论
    • 2021610101韩成岚

    18楼

  • 2021610101韩成岚 发表于2023年05月04日
    0 | 0 | 举报
    <p>在获得高质量数据训练过的领域，ChatGPT的回答已经远超人类一般专家的水平。在一些还没有获得专业、高质量数据训练的领域，ChatGPT的回答确实会出现一些错误，但是它还是能以人类的语言逻辑快速的组织并回答。</p>
    2021610101韩成岚 发表于2023年05月04日
    0 | 评论(0) | 举报
    添加评论
    • 2021610135毛榉浩

    19楼

  • 2021610135毛榉浩 发表于2023年05月04日
    0 | 0 | 举报
    <p>ChatGPT已经具备了人类语言逻辑表达的能力，尤其是这种一本正经的胡说八道正说明ChatGPT所代表的人工智能技术具备了人工智能的样子。</p><p><br ></p>
    2021610135毛榉浩 发表于2023年05月04日
    0 | 评论(0) | 举报
    添加评论
    • 2021610146薛嘉祥

    20楼

  • 2021610146薛嘉祥 发表于2023年05月04日
    0 | 0 | 举报
    <p>ChatGPT，顾名思义，是一种基于聊天的语言模型，能够理解和生成类似人类的文本。它是从来自互联网的大量文本语料库上进行了训练。</p>
    2021610146薛嘉祥 发表于2023年05月04日
    0 | 评论(0) | 举报
    添加评论
点击加载更多
发表回复