新论文发表：On the Ethics of Generative GeoAI: Explainability, Bias, Hallucination, Accountability, Privacy, and Trust
Published:
我非常荣幸能够参与到这篇新发表的论文 《On the Ethics of Generative GeoAI: Explainability, Bias, Hallucination, Accountability, Privacy, and Trust》 的合作中，并作为共同作者之一，贡献了关于 GeoAI信任（GeoAI Trust） 的章节（第八章）。
我特别印象深刻的是，当时 Mai 老师召集我们参与这篇文章的时候特别提到，这篇文章不只关注目前的技术，而是要去引导思考哪些问题才是真正值得我们去探索的。
正因为如此，我觉得这篇文章一定会对大家很有帮助，也非常有启发。希望这些文章在十年后来看，仍然会启发新的思考。
在第八章“Trust in AI and GeoAI Models”中，我们探讨了几个关键问题：
1. 从概率输出到地理空间现实 对GeoAI的信任需要验证机器学习模型是否遵循物理和空间规律，而不仅仅是接受统计相关性。像LLMs这样的生成式模型使用统计概率而非逻辑推理来预测语言模式。当这种方法应用于地理空间领域时，模型可能会生成流畅但缺乏空间连贯性的文本。在关键决策环境中，这些“地理幻觉（geo-hallucinations）”不仅是技术Bug，更是知识生成的失败。
2. 在智能与物理约束之间寻找平衡 将生成式模型融入地理空间科学，会在算法自动化和人类专家判断之间产生冲突。如果模型以极高的自信预测极端天气，却缺乏对大气物理的理解来支撑输出，这种机械式的过度自信是非常危险的。我们必须将不确定性量化视为一种道德要求，而不仅仅是技术工具。
3. 系统性风险与数据完整性 地理空间领域特有的一个隐患是“GeoAI崩溃（GeoAI collapse）”现象。随着生成式模型的激增，未来的GeoAI模型可能会基于前代模型产生的“幻觉”输出进行训练，而不是基于观测数据。这会导致地理保真度的退化和“数字无地感”。为了维持信任，社区必须实施数据溯源协议。
论文详情
- 作者： Gengchen Mai, Ni Lao, Jielu Zhang, Lishen Mao, Zhangyu Wang, Nemin Wu, Krzysztof Janowicz, Koutian Wu, Jinmeng Rao, Song Gao, Rui Zhu
- 页码： 215 - 232
- DOI： 10.3233/FAIA260483
- 链接： https://ebooks.iospress.nl/doi/10.3233/FAIA260483
- 书籍： Volume 422: Geography According to Foundation Models
摘要： 随着生成式人工智能（GenAI）的快速发展，出现了多个伦理问题，其中许多对地理学和地理空间人工智能（GeoAI）有着独特的影响。本章以GeoAI及其对人类地理认知的影响为重点，回顾了生成式AI系统在概念化、开发和部署过程中的关键伦理问题。我们将讨论模型可解释性、偏见、幻觉、问责制、隐私和信任等关键挑战。最后，我们将推荐符合既定伦理准则的生成式GeoAI模型开发最佳实践。