代码已开源：https://github.com/galilai-group/prh-proof（含训练109M文本JEPA的完整代码），但预训练权重尚未放… · @wohsj110 · TwKit

@wohsj110

代码已开源：https://github.com/galilai-group/prh-proof（含训练109M文本JEPA的完整代码），但预训练权重尚未放出，需自行用数据训练；另提供Hugging Face demo。该方法仅在跨模态表示对齐（与DINOv2/CLIP图像编码器的相似度）上优于参数量最大至72B的LLM（0.184 vs Qwen2.5-72B的0.154）。其训练对采用同一场景的多个文本描述（good views），数据规模从14.5万条caption到9.4亿网络图像-文本数据。需强调，这并不代表通用能力更强，只说明其表示结构更接近视觉模型。

曝光 29 · 评论 0 · 点赞 0 · 书签 0