【新智元导读】AI能像科幻电影中的先知一样预测未来吗?一个名为「Prophet Arena」的全新基准测试✿◈✿✿,正通过预测真实世界事件来评估AI的「预言」能力✿◈✿✿。
在昨晚的男篮亚洲杯冠军争夺战中365beat✿◈✿✿,✿◈✿✿,中国男篮虽以1分之差惜败澳大利亚✿◈✿✿,但已是近十年来的最好成绩树麻里子✿◈✿✿!
今天要介绍的Prophet Arena就是一个通过实时更新的真实世界预测任务来评估AI系统预测智能的基准测试✿◈✿✿。
为「人机协作」而生✿◈✿✿:你可以给AI提供线索✿◈✿✿,看看它的预测如何变化✿◈✿✿;AI也会把它的思考过程告诉你✿◈✿✿。
Prophet Arena从像Kalshi和Polymarket这样的预测市场平台挑选热门✿◈✿✿、多样且周期性的真实事件作为考题✿◈✿✿。
Kalshi是一家美国的金融交易所和预测市场平台✿◈✿✿,是美国第一个受美国商品期货交易委员会(CFTC)监管的beat365官方✿◈✿✿,✿◈✿✿、专注于交易「事件结果」的交易所
AI模型们利用搜索引擎✿◈✿✿,像侦探一样收集关于某个事件的新闻报道✿◈✿✿,整理成一份精炼的「情报简报」BET356亚洲版在线✿◈✿✿。同时✿◈✿✿,也会把当时的市场价格(可以看作是群众的集体智慧)放进去BET356亚洲版在线✿◈✿✿。
拿到相同的情报后✿◈✿✿,每个AI模型都要提交一份详细的「预测报告」✿◈✿✿:对所有可能的结果给出一个概率分布✿◈✿✿,并附上长篇大论的理由✿◈✿✿,解释自己为什么这么看✿◈✿✿。
事件结束✿◈✿✿,结果揭晓BET356亚洲版在线✿◈✿✿。会用一套专业的指标来评估AI的预测到底有多准✿◈✿✿,然后更新在一个实时排行榜上✿◈✿✿。
排行榜主要看两个指标✿◈✿✿:一个是衡量准确度和校准度的Brier分数(越高越好)✿◈✿✿,另一个是模拟真实投注的平均回报(看谁能赚钱)✿◈✿✿。
除了上述两个核心指标外✿◈✿✿,Prophet Arena还采用了受统计学和心理测量建模启发的高级评估方法✿◈✿✿,如项目反应理论(Item Response Theory✿◈✿✿,IRT)和广义Bradley-Terry(BT)模型树麻里子✿◈✿✿。
比如一场温布尔登网球赛✿◈✿✿,赛前市场普遍认为选手保罗有84%的胜率✿◈✿✿,甚至在开赛前一度攀升至95%✿◈✿✿。
比如在「AI监管法规会在2026年前成为联邦法律吗?」这个事件上✿◈✿✿,市场认为可能性只有25%✿◈✿✿。
保守派代表Llama 4 Maverick✿◈✿✿:它也看到了同样的信息✿◈✿✿,但认为立法过程复杂又缓慢BET356亚洲版在线通风设备✿◈✿✿,✿◈✿✿,所以只给出了比市场略高一点的35%beat365下载✿◈✿✿!✿◈✿✿。
例如在圣地亚哥与多伦多的美国职业足球大联盟比赛中✿◈✿✿,o3-mini在1美元的投注上获得了9美元的回报树麻里子✿◈✿✿。
根据市场数据和新闻来源✿◈✿✿,o3-mini预测多伦多获胜的概率为30%beat365网站✿◈✿✿,✿◈✿✿,而市场隐含的概率仅为11%(价格=0.11)✿◈✿✿。
尽管多伦多是不被看好的一方✿◈✿✿,但AI识别到了正的期望值✿◈✿✿,并由于其最大的优势比率30%/11%≈3✿◈✿✿。
就像在上面那场足球赛中✿◈✿✿,市场认为多伦多队只有11%的胜算✿◈✿✿,但o3-mini经过分析认为有30%✿◈✿✿。
数值越低(颜色越深的单元格)表示概率推理更接近一致✿◈✿✿;数值越高(颜色越浅的单元格)则表明分歧越大树麻里子✿◈✿✿。
与Kimi K2✿◈✿✿、o3和Llama 4 Maverick等模型相比✿◈✿✿,它的L2距离始终高于0.7✿◈✿✿,这表明其可能采用了不同的校准方式或内部决策机制✿◈✿✿。
在频谱的另一端✿◈✿✿,诸如Grok-4和GPT-5之类的模型经常作出高度一致的预测✿◈✿✿,L2距离通常低于0.3✿◈✿✿。
换句话说✿◈✿✿,这张图展示了AI预测的多样性✿◈✿✿:有些模型形成「群体共识」✿◈✿✿、有些模型像「特立独行的异议者」✿◈✿✿。
设想✿◈✿✿,AI系统将成为预测市场的积极参与者✿◈✿✿,将人类的直觉洞察与AI强大的数据分析能力相结合树麻里子✿◈✿✿,最终提升整个社会的集体远见beat365体育✿◈✿✿,✿◈✿✿,为那些高风险的决策提供更可靠的依据✿◈✿✿。
毕竟✿◈✿✿,如果说语言模型的下一步是预测下一个词✿◈✿✿,那么它的终极形态BET356亚洲版在线✿◈✿✿,或许就是预测这个真实世界的下一个事件✿◈✿✿。