百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

从“上古卷轴”到楔形文字,AI揭开古代文献神秘面纱,或将重写历史

ccwgpt 2025-02-28 15:04 31 浏览 0 评论


导读:AI的飞跃可能会开辟我们理解古代世界的新方法。想象一下,如果ChatGPT可以在「上古卷轴」的文本洪流上接受训练,我们将有机会直接与历史对话。
2023年10月,一封电子邮件发到了Federica Nicolardi的手机上,其中有一张图片将永远改变她的研究。
这是一张纸莎草卷轴的碎片,此卷轴在公元79年维苏威(Vesuvius)火山喷发时被烧毁——也就是导致庞贝古城被埋于地下的那次灾难。
18世纪,人们在意大利庞贝城附近Herculeaneum的一座豪华罗马别墅遗迹中发现了数百件卷轴,这本烧焦的卷轴就是其中之一。
几百年来,研究者们试图剥开卷轴上脆弱的碳化层,探寻内部记录的秘密,却都没有成功,许多卷轴因此变成了碎片。
学者们只好接受这些「上古卷轴」永远无法打开的事实。
意大利那不勒斯大学(University of Naples)的纸莎草纸学家Nicolardi曾尝试使用AI来阅读这些难以辨认的内容。
现在最新结果已经发过来了,AI将文字还原为了整齐清晰的希腊字母,——这是一段过去2000年来完全无法访问的文本。
从希腊语、拉丁语、到中国的甲骨文(Oracle Bone Script),AI正在准备重塑我们看待古代世界的方式。
重建古代文本
几十年来,计算机一直被用于对数字化文本进行分类和分析,AI的加入使研究者有望处理之前无法理解的庞大档案。
于是,大量新文本得以涌现,比过去几个世纪得到的数据还要多。
在2010年代,将深度学习应用于古代文本的早期尝试是基于文本的数码照片(拍摄纸莎草纸或者棕榈叶的原件)。
这个时期最常用的网络是CNN,对图像进行光学字符识别(OCR)。
研究甲骨文的团队使用模型来还原残缺的字母图像、拼凑碎片、以及分析字符如何随着时间的推移而演变。
与此同时,RNN网络也发挥了自己处理时间序列数据的优势,被用于搜索、翻译和填补已翻译文本的空白。比如,用RNN来猜测古巴比伦文字中数百个公式化的行政和法律文本中缺失的字符。
除了加速繁琐的任务,神经网络还帮助建立了人类专家无法发现的关系。
2017年,英国牛津大学开展了第一个展示AI潜力的大型项目:破译来自西西里岛的希腊铭文。
这些古文字读起来非常复杂,保存得也很糟糕,有一部分缺失还混合了方言,研究者不确定铭文的具体归属地以及日期。
过去的研究人员一般利用自己对类似现有文本的了解来解释新的资料,他们通常是特定时间和地点作品的专家。
但一个人不可能掌握与新文本相关的所有信息,于是AI登场了。
研究人员在公元前7世纪至公元5世纪之间写成的数万个希腊铭文上训练了一个RNN模型:Pythia。然后要求模型文本在它以前从未见过的文本上,预测缺失的单词或字符。
2022年,他们又使用流行的Transformer训练了一个名为Ithaca的模型,在之前的基础上加入了预测未知文本的日期和起源地点的能力。
Transformer通过并行分析输入的不同特征(字符或单词)来捕获比RNN更复杂的语言模式,并根据上下文对其进行加权。
最终,Ithaca以62%的准确率恢复了古代文本中人工产生的空白,相比之下人类专家的准确率为25%。而Ithaca和专家合作时,预测准确率达到了72%。
此外,Ithaca还以71%的准确率确定了铭文的地理来源,且日期预测也与公认的时间接近。
创建者将Ithaca免费开源后,每周都会收到几百次的访问。迄今为止,Ithaca做出贡献的例子包括重新确定雅典政治法令的日期,以及对公元前4世纪泥板的调查等等。
海量档案
关于古代文献,另一个截然不同的挑战则是数据量。
比如研究人员在处理的世界上最大的历史档案之一:包含数十万篇文章,涵盖27位韩国国王的统治时间(14世纪至20世纪初)。
这些记录是完整的,来源也是已知的,但几乎没有人能读懂,因为它们是用古汉字书写的,不同于现代汉字或韩文。
一个由政府翻译组成的小团队,正在努力手动将这些文本翻译成现代韩语,但这项任务可能需要几十年才能完成。
来自纽约大学(New York University)的首席机器翻译研究员 Kyunghyun Cho与同事合作,训练了一个基于Transformer的网络来自动翻译这些记录。
由于目前还没有足够的类似数据来训练这样的模型,因此团队采取了多语言方法。专家认为AI的翻译(对国事访问、惩罚叛徒和音乐会等事件的描述)比古代的翻译更准确、更易读,在某些情况下甚至比现代翻译更好。
另一方面,研究人员正在使用神经网络来处理只有少量文本幸存下来的古代语言。
训练Transformer一般需要大量的数据,不适用于这种情况,研究者于是回归以前的模型。
例如,希腊Patras大学的Katerina Papavassileiou和同事使用RNN从克里特岛克诺索斯(Knossos, Crete)的1,100块迈锡尼泥板(Mycenaean tablets)中恢复了缺失的文本,包含公元前两千年书写的羊群记录(Linear B)。
在人工测试中,模型的前十个预测准确率达到了72%,而在实际应用中,其性能通常能跟人类专家打平。
为了进一步改进结果,Papavassileiou希望添加视觉数据(如不完整字母的痕迹),而不仅仅是依赖音译文本。她还在研究「迁移学习」,将模型从一个系列的泥板中学到的知识应用于其他系列的泥板。
看似不可能的任务
让我们回到最开始的例子,阅读赫库兰尼姆(Herculaneum)卷轴涉及克服两个大问题。
首先,脆弱的卷轴无法展开。为了看到它们的内部,计算机科学家 Brent Seales花了数年时间开发「虚拟展开」技术,包括对卷轴的内部结构进行高分辨率计算机断层扫描(CT),并手工绘制横截面每一帧中可见的表面,然后使用算法将表面展开成平面图像。
2015年,研究人员使用这种技术从以色列恩戈地(EnGedi)的一个烧焦、无法打开的卷轴(公元3世纪左右)中阅读完整的文本,结果证明它来自圣经的章节。
相比于EnGedi的卷轴,Herculaneum的卷轴每卷都有几百圈,而且像丝绸一样薄。为了捕获极高分辨率的CT数据,团队将几个卷轴运送到牛津附近的Diamond Light Source使用粒子加速器。
但是,EnGedi卷轴和其他后期作品的墨水往往含有铁,在CT扫描中会发出明亮的光芒,而Herculaneum的抄写员使用的是碳基墨水,在扫描中是看不见的,因为它的密度与使用的莎草纸相同。
Seales团队意识到,虽然他们无法直接看到墨水,但有可能检测到它的形状。——如果裸露的纸莎草纤维与涂有墨水的纤维相比,表面纹理存在细微差异,也许他们可以训练神经网络来捕捉这种差异。
不过对于Seales的小团队来说,这个工作量太大了,因此他们在2023年3月与硅谷企业家Nat Friedman合作发起了维苏威火山挑战赛(Vesuvius Challenge),并提供了丰厚的现金奖励。
Seales团队发布了卷轴表面的扁平图像,并要求参赛者训练神经网络来找到墨水。超过1,000个团队参加了比赛,每天都有数百人在比赛的Discord频道上讨论进度。
最终在2024年2月,计算机专业的学生Youssef Nader、Luke Farritor和Julian Schilliger 获得了700,000美元的大奖。
获胜团队使用了TimeSformer,是Transformer的一种变体,通常用于在视频数据中分别处理空间和时间维度。
对于散落在那不勒斯、巴黎、伦敦和牛津的这些「上古卷轴」,这个时代的AI将有望令其重见光明。
参考资料:
https://www.nature.com/articles/d41586-024-04161-z

相关推荐

迈向群体智能 | 智源发布首个跨本体具身大小脑协作框架

允中发自凹非寺量子位|公众号QbitAI3月29日,智源研究院在2025中关村论坛“未来人工智能先锋论坛”上发布首个跨本体具身大小脑协作框架RoboOS与开源具身大脑RoboBrain,可实...

大模型对接微信个人号,极空间部署AstrBot机器人,万事不求百度

「亲爱的粉丝朋友们好啊!今天熊猫又来介绍好玩有趣的Docker项目了,喜欢的记得点个关注哦!」引言前两天熊猫发过一篇关于如何在极空间部署AstrBot并对接QQ消息平台的文章,不过其实QQ现在已经很少...

Seata,让分布式事务不再是难题!实战分享带你领略Seata的魅力!

终身学习、乐于分享、共同成长!前言Seata是一款开源的分布式事务解决方案,致力于提供高性能和简单易用的分布式事务服务。Seata将为用户提供了AT、TCC、SAGA和XA事务模式,为用户打造一站式的...

常见分布式事务解决方案(分布式事务解决的问题)

1.两阶段提交(2PC)原理:分为准备阶段(协调者询问参与者是否可提交)和提交阶段(协调者根据参与者反馈决定提交或回滚)。优点:强一致性,适用于数据库层(如XA协议)。缺点:同步阻塞:所有参与者阻塞...

分布式事务:从崩溃到高可用,程序员必须掌握的实战方案!

“支付成功,但订单状态未更新!”、“库存扣减后,交易却回滚了!”——如果你在分布式系统中踩过这些“天坑”,这篇文章就是你的救命稻草!本文将手把手拆解分布式事务的核心痛点和6大主流解决方案,用代码实战+...

谈谈对分布式事务的一点理解和解决方案

分布式事务首先,做系统拆分的时候几乎都会遇到分布式事务的问题,一个仿真的案例如下:项目初期,由于用户体量不大,订单模块和钱包模块共库共应用(大war包时代),模块调用可以简化为本地事务操作,这样做只要...

一篇教你通过Seata解决分布式事务问题

1 Seata介绍Seata是由阿里中间件团队发起的开源分布式事务框架项目,依赖支持本地ACID事务的关系型数据库,可以高效并且对业务0侵入的方式解决微服务场景下面临的分布式事务问题,目前提供AT...

Seata分布式事务详解(原理流程及4种模式)

Seata分布式事务是SpringCloudAlibaba的核心组件,也是构建分布式的基石,下面我就全面来详解Seata@mikechen本篇已收于mikechen原创超30万字《阿里架构师进阶专题合...

分布式事务最终一致性解决方案有哪些?MQ、TCC、saga如何实现?

JTA方案适用于单体架构多数据源时实现分布式事务,但对于微服务间的分布式事务就无能为力了,我们需要使用其他的方案实现分布式事务。1、本地消息表本地消息表的核心思想是将分布式事务拆分成本地事务进行处理...

彻底掌握分布式事务2PC、3PC模型(分布式事务视频教程)

原文:https://mp.weixin.qq.com/s/_zhntxv07GEz9ktAKuj70Q作者:马龙台工作中使用最多的是本地事务,但是在对单一项目拆分为SOA、微服务之后,就会牵扯出分...

Seata分布式事务框架关于Annotation的SAGA模式分析

SAGAAnnotation是ApacheSeata版本2.3.0中引入的功能,它提供了一种使用Java注解而不是传统的JSON配置或编程API来实现SAGA事务模式的声明...

分布式事务,原理简单,写起来全是坑

今天我们就一起来看下另一种模式,XA模式!其实我觉得seata中的四种不同的分布式事务模式,学完AT、TCC以及XA就够了,Saga不好玩,而且长事务本身就有很多问题,也不推荐使用。S...

内存空间节约利器redis的bitmap(位图)应用场景有哪些你知道吗

在前面我们分享过一次Redis常用数据结构和使用场景,文章对Redis基本使用做了一个简单的API说明,但是对于其中String类型中的bitmap(位图)我们需要重点说明一下,因为他的作用真的不容忽...

分布式事务原理详解(图文全面总结)

分布式事务是非常核心的分布式系统,也是大厂经常考察对象,下面我就重点详解分布式事务及原理实现@mikechen本文作者:陈睿|mikechen文章来源:mikechen.cc分布式事务分布式事务指的是...

大家平时天天说的分布式系统到底是什么东西?

目录从单块系统说起团队越来越大,业务越来越复杂分布式出现:庞大系统分而治之分布式系统所带来的技术问题一句话总结:什么是分布式系统设计和开发经验补充说明:中间件系统及大数据系统前言现在有很多Java技术...

取消回复欢迎 发表评论: