跳动百科

AI领域将面临数据墙:高质量语言数据枯竭 可能减缓训练进展

别爱晨
导读 快科技8月1日消息,据媒体报道,目前互联网高质量数据枯竭,AI领域面临数据墙。对于AI大模型公司来说,现在的挑战是找到新的数据源或可持续...

快科技8月1日消息,据媒体报道,目前互联网高质量数据枯竭,AI领域面临“数据墙”。对于AI大模型公司来说,现在的挑战是找到新的数据源或可持续的替代品。

据权威研究公司Epoch AI的前瞻性分析,至2028年,互联网上的所有高质量文本数据或将被悉数采撷,而机器学习所依赖的高质量语言数据集,其枯竭的时间点甚至可能提前至2026年。

这一“数据墙”的预言,无疑在AI行业内投下了一片阴影,成为制约其快速发展的重大瓶颈。

然而,面对这一看似绝望的局面,部分科学家却持有更为乐观和宽广的视角。他们认为,断言“人工智能模型正步入数据枯竭的绝境”过于悲观且片面。在语言模型的细分领域内,仍有一片未被充分探索的数据蓝海,蕴藏着丰富的差异化信息,等待着被挖掘利用,以驱动更加精准、定制化的模型构建。

为了跨越“数据墙”的障碍,AI界正积极探索多种创新路径。其中,合成数据作为一种潜力巨大的解决方案,正逐渐进入人们的视野。这类数据由机器智能生成,理论上具备无限供应的能力,为解决训练数据稀缺问题提供了全新的思路。

然而,合成数据的应用亦非毫无风险,其潜在的“模型崩溃”危机不容忽视——即当机器学习模型在由AI生成的可能存在偏差的数据集上训练时,可能会导致模型对现实的误解与扭曲。

因此,在利用合成数据等创新手段的同时,AI领域还需保持审慎态度,加强数据质量的监控与评估,确保数据的多样性与真实性,从而有效避免“模型崩溃”的风险,推动AI技术健康、稳健地发展。