尽管深度学习模型在青光眼、AMD、DR等多种致盲眼病的筛查、分级及进展预测中展现出超越传统方法的性能，但这些模型多基于复杂的卷积神经网络架构，其决策过程往往被视为“黑箱”。例如，在预测AMD未来5年的进展风险或判断高度近视后葡萄肿的形态时，模型能够输出高置信度的结果，却难以向临床医生直观展示究竟是哪些影像特征驱动了最终的判断。这种可解释性的缺失直接限制了AI在临床实践中的信任度与采纳率，监管机构也难以对算法的安全性与公平性进行全面的审查。
 

在数据伦理方面，当前面临的主要挑战包括患者隐私泄露风险、训练数据的人群偏倚导致的算法公平性问题、历史影像资料二次利用时知情同意覆盖不足，以及深度学习模型“黑箱”特性引发的责任归属困境；同时也存在诸多生物伦理问题，干细胞来源的伦理争议、基因治疗的脱靶风险、晚期患者临床试验中的受试者保护问题以及高昂的治疗成本可能加剧医疗资源分配不公等深层矛盾。当前AI技术与再生治疗在临床应用与转化方面面临多重挑战。首先，尽管AI模型在实验室环境中展现出高诊断效能，但其在真实世界中的推广仍受限于数据异质性、设备差异及临床工作流程的适配性。模型在不同种族、不同医疗中心的表现稳定性仍需进一步验证，且从“辅助筛查”向“辅助诊疗决策”的跨越缺乏足够的循证医学证据支撑。
 

出自《AI赋能的眼病精准诊断与再生治疗新进展》作者高娜，代伟，瞿佳。