LLM训练通信量减少10000倍!全新分布式优化器,整合世间算力训练强大AI

新智元报道编辑:alan【新智元导读】近日,NousResearch宣布了一项重大突破,通过使用与架构和网络无关的分布式优化器,研究人员成功将训练LLM时GPU间的通信量降低了1000到10000倍!如果可以使用世界上所有的算力来训练AI模型,会怎么样?近日,凭借发布了开源的Hermes3(基于Llama3.1)而引起广泛关注的NousResearch,再次宣布了一项重大突破——DisTrO(分布式互联网训练)。通过使用与架构和网络无关的分布式优化器,研究人员成功将训练LLM时GPU间的通信量降低了1000到10000倍!

谷歌 Earth 推出“时光机”,回溯伦敦、巴黎等城市80年沧桑巨变

IT之家10月3日消息,谷歌升级GoogleEarth服务,让用户乘坐“时光机”,回到过去追溯查看80年前的卫星和俯瞰图像。IT之家援引更新公告,本次“时光回溯”仅适用于伦敦、柏林、华沙和巴黎在内的某些城市,用户可以追溯到1930年代。GoogleEarth可以“回到过去”,对比历史照片和当前照片。谷歌公司在博文中就对比了1938年和2024年的旧金山,看看该地区的地理变化有多大。在谷歌提供的样本照片中,可以看到1938年的照片中,旧金山的港口主要用于运输。而在最近的照片中,同一地点则布满了餐厅和游轮。

限制过度包装标准整体有效实施率为88.9%

市场监管总局在中秋、国庆节前夕,组织开展了限制过度包装标准实施情况监测。监测结果表明,标准整体有效实施率为88.9%。本次监测共采集了10.7万余次的限制过度包装标准实施数据,分析显示我国现行有效的限制过度包装国家标准、行业标准、地方标准、团体标准共有36项,平均实施量为2982次。其中,国家标准平均实施量达到7572次。实施量排名前列的标准分别为《限制商品过度包装要求食品和化妆品》(实施量排名第一,达7万多次)、《限制商品过度包装要求生鲜食用农产品》、《绿色商场》、《月饼质量通则》。

公安部:深挖严惩!

新华社10月3日消息,当前,一些热门文艺演出、体育比赛、博物馆和景区景点出现“一票难求”现象,由此引发的“黄牛”倒票问题屡禁不止,人民群众反映强烈。近日,公安部专门部署全国公安机关开展为期一年的打击整治“黄牛”倒票违法犯罪专项工作,切实维护人民群众合法权益和良好社会秩序。公安部要求,全面强化打防管控治各项措施,严厉打击一批职业“黄牛”倒票违法犯罪团伙,深挖严惩一批利用网络“外挂”软件实施抢票的违法犯罪团伙,坚决斩断内外勾结“黄牛”倒票的利益链条,有效整治一批违法违规网络倒票平台。同时,加强与网信、文化和旅游、体育、市场监管、文物等相关部门协作配合,健全完善长效联动工作机制,将技术与管理、打击与教育相结合,发挥大数据科技赋能作用,实现对票证发售、流通、查验、售后维权等环节的全链条防范治理,推动实现常治长效,坚决杜绝“黄牛”倒票乱象。

目录[+]