1月20日

上海：以人工智能、大数据、移动互联网等技术应用为支撑 深入实施教育数字化转型战略行动

据上海市人民政府1月17日消息，上海市人民政府办公厅印发《关于进一步深化学习型城市建设的意见》（以下简称《意见》）。《意见》提出，加快数字化转型。以人工智能、大数据、移动互联网等技术应用为支撑，深入实施教育数字化转型战略行动，探索形成“互联网+”终身教育新模式，推动实现优质教育资源公平普惠可及。依托终身教育智慧教育平台，加快面向市民的优质数字化学习资源建设。完善终身教育数字学习资源管理和更新机制，提高资源利用效率。主动开发符合市民学习偏好的终身教育数字化应用场景，完善终身学习数字地图，为市民提供数字化、情景化、沉浸式的学习体验。深入对接“一网通办”，提高终身教育数字化治理和数据归集水平。加强数字基础设施建设，实现各类学习平台载体融合式发展，真正做到“一网通学”。来源：微信公众号【上海股权投资协会】

模型越大，性能越好？苹果自回归视觉模型AIM：没错

在最新的一篇论文《Scalable Pre-training of Large Autoregressive Image Models》中，苹果的研究者提出了自回归图像模型（AIM），探讨了用自回归目标训练 ViT 模型是否能在学习表征方面获得与 LLMs 相同的扩展能力。研究者发现，模型容量可以轻松扩展到数十亿个参数，并且 AIM 能够有效利用大量未经整理的图像数据。他们利用包括 ViT、大规模网络数据集和 LLM 预训练最新进展在内的工具集，重新审视了 iGPT 等自回归表征学习方面的前期工作，此外还引入了两处架构修改，以适应视觉特征的自回归预训练。研究者从参数和训练数据的角度衡量了扩展本文方法所产生的影响。特别是，他们研究了预训练目标和下游性能在不同基准之间是否存在相关性；还研究了缩放对损失函数值的影响。所有这些实验都报告了在 IN-1k 验证集上的损失函数值。来源：微信公众号【机器之心】