DeWave的核心技术思路是，将连续的脑电波信号转化为离散的编码，然后输入预训练的大语言模型进行文本翻译。
该编码器具有多项功能。首先，它能够增强视觉感知能力，通过提供额外的视觉编码器，使MLLM能够更好地理解和分析图像内容。其次，VCoder能够处理特殊类型的图像，例如分割图和深度图。分割图能够帮助模型识别和理解图像中不同物体的边界和形状，而深度图则提供了物体距离相机远近的信息。最后，VCoder改善了对象感知任务的表现。通过提供额外的感知模态输入，如分割图或深度图，它显著提高了MLLM的对象感知能力，包括更准确地识别和计数图像中的对象。
声明:本文来自于微信公众号 游戏葡萄（ID:youxiputao），作者:九莲宝灯&以撒，授权站长之家转载发布。后续平台也将不断优化改进产品功能，为用户提供更优质体验，同时我们也呼吁自媒体”创作者加强自律，规范自身运营行为，共同守护清朗网络生态。
此外，M2UGen还加入了适配器和LLaMA2模型，使得该模型具备多种能力。