今天小编分享的科技经验:元宇宙,又活了?Meta重建元宇宙:发布逼真影像数据集,全球巡回组装AR眼镜,欢迎阅读。
Meta 的元宇宙探索,还在继续。
最近,Meta 用虚幻引擎开发了全新的逼真合成数据集,希望拉近合成数据与真实世界数据的距离。
他们还计划制作一款全新的 AR 眼镜,仅用于内部开发和公众展示。
据悉,这款眼镜的制造流程涉及中国大陆、中国台湾和美国的工厂。原因是镜片内包含一款军用材料,无法轻易出口到美国以外的地方。
另外,Meta 甚至还成立了一个「前员工门户」,把从前解雇的员工慢慢招了回来。
真实虚幻影像数据集
Meta 推出的真实虚幻影像(PUG,Photorealistic Unreal Graphic)数据集,能够对人工智能视觉系统进行更可控、更稳健的评估和训练。
这个数据集通过虚幻引擎 Unreal Engine 合成了超过 20w 个动物影像,以及数十万张包括各种姿势,光照和背景的影像,来作为训练,评估影像模型和影像系统的基础。
PUG 因为使用了 Unreal Engine 合成的影像,保证了影像素材的真实感,使得它的使用范围比之前类似的影像数据集要大大扩展。
PUG 由 4 个部分构成:
1. PUG Animal
用于研究分布外泛化和研究基础模型的表征空间,包括了:
215,040 张预渲染影像,涵盖了 70 种动物资源,囊括了 4 种尺寸,3 种纹理,4 种不同的方向。
2. PUG ImageNet
数据集提供了一个新颖和高效的基准测试,用于细粒度评估影像分类器在多个变化因素上的稳定性,包含了:
151 种 ImageNet 类型(class),64 种背景,7 种尺寸,10 种纹理,18 个视角,18 角色方向(Character Orientation),7 种光照强度。
3. PUG SPAR(场景、位置、属性、关系)
数据集用于评估视觉语言模型,展示了如何使用合成数据来解决当前基准测试的局限性。它包含了:
43,560 张预渲染影像,10 个背景,32 种动物,4 种关系(左 / 右,下 / 上),4 种属性(蓝 / 红,草 / 石)。
4. PUG AR4T
提供大约 250,000 张影像,用于微调空间关系和属性的视觉语言模型。
Meta 使用虚幻引擎来创建逼真的互動环境,从中他们可以轻松地对给定规格的影像进行采样。
下图说明了 Meta 如何使用虚幻引擎和示例影像来生成 PUG 数据集。
合成影像数据集为设计和评估深度神经网络提供了非常多的优势。
合成数据集能根据需要渲染尽可能多的数据样本,还可以精确控制每个场景并产生细粒度的标注数据标签,精确控制训练和测试之间的分布变化,以隔离感兴趣的变量以进行合理的实验。
但是现有的合成数据集最大的问题就是不够真实,这使得数据集的使用范围严重受限。
而如果用真实的影像数据集,又会受到隐私和版权方面的限制。
而通过虚幻引擎来合成真实的影像数据集,就能非常好解决这些问题。
Meta 称,与现有测试基准相比,生成涵盖一系列领網域的数据的能力可以使视觉语言模型的评估和训练更加可靠。
除了数据集之外,研究人员还可以使用 PUG 环境创建自己的数据,精确指定现实世界数据集难以控制的光照和视角等因素。
如何创建自己 PUG 数据集
而且,Meta 还详细介绍了如何利用虚幻引擎来建立自己独有的 PUG 数据集。
指导手册:https://github.com/facebookresearch/PUG/tree/main/torchmultiverse
首先是下载 Epic Games 来获取虚幻引擎 5。 然后创建一个新的 Pixel 流媒体项目。
如果之前完全没有了解过虚幻引擎,可以下载官方的这个 Demo 来进行一个简单的入门。
https://www.unrealengine.com/marketplace/en-US/product/pixel-streaming-demo
然后阅读官方对于虚幻 5 引擎的入门介绍,了解 Blueprintsd 的基本机制。
https://docs.unrealengine.com/5.0/en-US/introduction-to-blueprints-visual-scripting-in-unreal-engine/
下载 Demo 后,打开位于 Content/Blueprints/CharacterConfig 檔案夹中的 DTCharSelect 表檔案,如下图所示。
该表列出了可以通过虚幻环境加载的所有资源。如果您想添加新字元,只需在表中创建一个新条目即可。
明年或推出 AR 眼镜:军用材料,在美国组装
另外,Meta 还计划在 2024 年推出第一代 AR 眼镜,产量大约在 1000 台左右。
这 1000 台 AR 眼镜将仅用于内部测试以及公众展示,不会向公众发布。
尽管数量不多,但 Meta 为了生产这个 AR 眼镜可谓是费尽周折。
这款眼镜被定位为一款价格昂贵的空间计算设备。
而且由于镜片涉及到被限制出口的材料,所以这款眼镜的手持控制器和无线计算核心会在中国大陆和中国台湾生产,再运到美国,和镜片一起组装成成品。
原因是 Meta 准备在这个内部代号为「Orion」的 AR 眼镜中使用一种名为碳化硅(SiC)的化合物作为镜片材料。但这种化合物被政府限制出口到其他国家。
相比过去的玻璃材料,碳化硅可以投射更宽的影像到镜片中,视野更宽阔。但它的价格也更贵。
Orion AR 眼镜视场角约为 70° 对角线,略大于 Magic Leap 2(66°),远大于 HoloLens 2(52°)。
Meta 为了一个不会对外发布的产品投入了如此巨大的成本,可能会引起投资者对 Meta 的 Reality Labs 部门的支出担忧。
其中,Reality Labs 部门主要开发增强现实(AR)和虚拟现实 ( VR ) 产品。
然而,直到现在,虚拟现实的市场仍然很小,增强现实的技术还在发展中,落地场景较为受限。
Meta 向这两个领網域投入了大量资金,希望确立 Meta 在市场中的领先地位。
在这两个领網域中,Meta 不得不和资金实力都十分雄厚的对手:苹果的 Vision Pro 头显竞争。
鉴于收入增长放缓和投资者压力增加,Meta 已经在整个公司范围内削减成本,但是 Meta 在 Reality Labs 部门的总投资仍在增加。
最近 18 个月,该部门今年的亏损达到了 210 亿美元。
Meta 决定仅将第一代 AR 眼镜作为内部产品发售,这本身就是一项削减成本的举措。
此外,在选择中国的工厂也是削减成本的一环。
在美国招聘组装工人,时薪在 16.75 美元到 28.27 美元不等。远远高于在中国大陆和中国台湾的生产成本。
同样,其他制造硬體的美国科技公司,如苹果,大部分产品也都是在中国制造的。
尽管如此,因为不得不在美生产镜片、组装 AR 眼镜,第一代 AR 眼镜的造价成本还是相当高昂。
重招被裁员工
最近几周,Meta 慢慢开始加快招聘步伐,尤其是工程和技术岗位。
自去年 11 月以 来,通过一个专门「前员工门户」,被 Meta 解雇的员工都可以重新申请正在招聘的岗位。
现在正在招聘的数百个职位,主要是軟體、硬體和 AR/VR 的岗位,还有一些基础设施和数据中心中的主要技术岗。
一位知情人士表示,运营岗似乎没有放开招聘,而且招聘的岗位都是有具体产出要求的岗位,因为 Meta 整体上已经缩减了经理级别的岗位。
Meta 招聘主要是针对有丰富工作经验的员工,减少了应届毕业生和实习生的聘用。
被裁的工程师级别越高、业绩评价越好,被重新聘用的概率会更高。
许多人被重新雇用的员工会被安排到新的岗位上去,职位和薪水都会比以前更低。
一名被 Meta 重新聘用的职员说,他接受了大约 10% 的降薪。但鉴于 Meta 的股价最近一直在上涨,他预计一年内会达到之前的薪酬水平。
尝到了降本增效甜头的小扎,似乎依然坚定地走在通向元宇宙的路上。
参考资料:
https://pug.metademolab.com/index.html
https://www.theinformation.com/articles/behind-metas-made-in-usa-ar-glasses-a-military-grade-material