老男人
首页 时尚 玩车 保健 情感
更多
腕表 饮食 视频 美女 百科
0
老男人 > 科技 > 正文

AI初创公司Galileo推新工具,可解释AI大模型的幻觉现象

2023-09-20 20:39:32 发布人:hao333 阅读( 9955)

站长之家 9月20日 消息:在人工智能领域,特定生成型人工智能模型产生幻觉现象的问题一直令人困惑。然而,旧金山的AI初创公司Galileo正在努力解决这一问题,...

站长之家 9月20日 消息:在人工智能领域,特定生成型人工智能模型产生幻觉现象的问题一直令人困惑。然而,旧金山的AI初创公司Galileo正在努力解决这一问题,并为用户提供了一系列新的监测和指标功能,以帮助他们更好地理解和解释LLMs的输出。

Galileo Studio是该公司旗下的工具,最新更新使用户不仅可以评估输入和上下文,还可以实时观察输出。这些新的监测功能使Galileo能够更好地解释为什么模型会产生特定的输出,并提供新的指标和防护措施来优化LLMs的性能。

AI初创公司Galileo推新工具,可解释AI大模型的幻觉现象

图源备注:图片由AI生成,图片授权服务商Midjourney

Galileo的联合创始人兼CEO Vikram Chatterji在接受VentureBeat的独家采访中表示:“最近几个月的真正新功能是我们添加了实时监测,因为现在您实际上可以观察到出了什么问题。这已经成为一个端到端的产品,用于不断改进大型语言模型应用。”

LLMs通常依赖于应用程序向LLM发出API调用以获取响应。Galileo拦截了这些API调用,包括输入和生成的输出。通过拦截这些数据,Galileo能够向用户提供关于模型性能以及输出准确性的准实时信息。

当我们讨论生成的AI输出的事实准确性时,通常会涉及到幻觉现象,即生成了与事实不符的输出。Chatterji解释说,LLM实际上是在尝试预测下一个单词应该是什么,但它还有关于下一个备选单词的想法,并为所有这些不同的标记或不同的单词分配概率。

Galileo通过与模型本身连接,使其能够准确了解这些概率,然后提供额外的指标来更好地解释模型输出并理解为什么会出现特定的幻觉现象。通过提供这些见解,Galileo的目标是帮助开发人员更好地调整模型和微调以获得最佳结果。

除了幻觉问题,LLM基础应用程序提供的响应可能会引发一些问题,如不准确、不当的语言或机密信息泄露。为了解决这些问题,Galileo Studio还引入了新的"防护措施"指标。对于AI模型,防护措施是关于模型可以生成的信息、语气和语言的限制。

对于金融服务和医疗保健等领域的组织来说,存在与信息披露和语言使用相关的监管合规性问题。通过防护措施指标,Galileo用户可以设置自己的防护措施,然后监控和测量模型输出,以确保LLMs不会偏离正轨。

此外,Galileo还跟踪一项被称为"接地性"的指标,用于确定模型的输出是否符合其提供的训练数据的范围。如果一个模型在抵押贷款文件上进行训练,但提供了与这些文件完全无关的答案,Galileo可以通过接地性指标检测到这一情况。这使用户可以知道响应是否与模型的训练背景相关。

Galileo为用户提供了一套全面的指标,使他们能够更好地理解模型的输出并解释其真实性。这些指标不仅有助于发现幻觉现象,还以可视化的方式解释了模型在每个单词基础上的困惑,有助于开发人员优化模型以获得最佳结果。同时,通过防护措施和接地性指标,Galileo还帮助开发人员确保LLMs的输出不会引发问题,如不准确或不合规的响应。

          
  • 上一篇:Google与美国国防部合作开发AI助手显微镜,协助医生诊断癌症

  • 下一篇:欧洲人变卦了!英国:考虑将内燃机汽车禁令推迟到2035年

相关阅读

RelatedReading
  • 极空间私有云召开华东地区秋季渠道研讨会 极空间私有云召开华东地区秋季渠道研讨会
  • 苹果iOS 17正式版来了:iPhone X/8系列等机型无缘 苹果iOS 17正式版来了:iPhone X/8系列等机型无缘
  • 蔚来8月成绩亮眼:新增中心、换电站与充电站,用户心愿得以实现 蔚来8月成绩亮眼:新增中心、换电站与充电站,用户心愿得以实现
  • 阿里16年,逍遥子张勇事了拂衣去 阿里16年,逍遥子张勇事了拂衣去
  • 2023中国算力大会·全光品质运力分论坛在银川成功举办 2023中国算力大会·全光品质运力分论坛在银川成功举办
  • Hugging Face推出新服务Training Cluster可一键训练模型 Hugging Face推出新服务Training Cluster可一键训练模型

猜你喜欢

Guessyoulike
华泰柏瑞积极优选股票增聘基金经理王林军 杜聪离任

华泰柏瑞积极优选股票增聘基金经理王林军 杜聪离任

hao333 2071次阅读2023-08-18 16:25
aeke轻力量:直瞄东方人的健康运动生态体系

aeke轻力量:直瞄东方人的健康运动生态体系

hao333 7753次阅读2023-08-01 12:20
久违了,小卡…

久违了,小卡…

hao333 5312次阅读2023-09-09 12:55
深夜重磅!詹姆斯官宣加盟!联手库里…

深夜重磅!詹姆斯官宣加盟!联手库里…

hao333 4615次阅读2023-09-12 05:26
专题页

HOT榜单

  • 携手共进|格灵深瞳获华为计算业务昇腾万里前程奖

  • 属于未来的“超级碗表”都有哪些特征?

  • 白酒概念板块跌0.69% 江中药业涨7.97%

  • 好欢螺号运载火箭发射成功,启航螺蛳粉品类新征程

  • 初普全新限量版金矿美容仪全球首发上市,独家搭载新一代抗衰科技ImpactPro

  • 大华银行违法被罚 重要信息系统访问控制管理存在不足

  • 抢“.AI”域名,成了3000万美元的大生意

  • 土豪专属!Caviari推出18K金iPhone 15 Pro:起售6.5万看呆了

  • 如果杨鸣都不行,那还有谁能带辽宁队?

  • 养老金怎么计算退休领取金额(养老金每个月能领取多少要怎么算)

换一组看看

频道最IN
>古尔曼称苹果新款妙控鼠标将随新款iMac到来:改用USB-C,充电端口终于挪位置

古尔曼称苹果新款妙控鼠标将随新款iMac到来:改用USB-C,充电端口终于挪位置

>其他电子板块涨3.35% 香农芯创涨20%居首

其他电子板块涨3.35% 香农芯创涨20%居首

>奔驰新电动车,还能收割中产吗?

奔驰新电动车,还能收割中产吗?

关于我们 法律声明 联系我们 广告服务 隐私条款
@老男人网 版权所有/信息产业部备案号:蜀ICP备13015099号-1