组内分享 · 张健强 · 第一部分

E2Map:架构与经验场

基于 E2Map 论文的系统架构介绍、E2Map 数学定义与情绪模型(高斯混合场)

📅 2026-06 🧩 机器人导航 🗺️ 经验-情绪地图 📊 高斯混合场

🎯 学完本节,你应能

理解 E2Map 的四模块架构、E2Map 的张量表示,以及基于高斯混合的情绪模型

📖 前置知识

建议具备概率论(高斯分布)和机器人导航(栅格地图、D* 算法)基础。

🎯 本讲主题

机器人导航中,传统地图缺少对"经验"和"情绪"的记忆。E2Map 将交互经验编码为地图上的情绪场,使导航决策具备自反性(self-reflective)。本讲覆盖论文的系统架构、E2Map 的数学定义和初始情绪模型。

📄 论文依据

本讲内容全部基于 E2Map: Experience-and-Emotion Map for Self-Reflective Robot Navigation with Language Models (Kim et al., SNU & Stanford, 2024/2025)。所有公式、架构、数据均来自原文。代码:e2map.github.io

📖 目录

1. 动机:为什么需要经验-情绪地图?

传统导航地图(如占据栅格地图、语义地图)只包含静态的空间信息——哪里是障碍物、哪里是空地、哪里有什么物体。这些地图无法回答一个关键问题:

🤔 关键缺失

曾经在某条走廊摔倒过的机器人,下次经过时应当如何调整行为?传统地图只能告诉它"这里没有障碍物",却无法表达"这里曾发生过不好的事"。

人类的导航行为受情绪和经验深刻影响。一次惊吓经历会让人主动避开某条路,即使那条路从几何上看完全可行。E2Map 的目标是让机器人也具备这种自反性(self-reflective navigation):

E2Map 的灵感来自认知科学和心理学——情绪体验会调节空间记忆和行为决策。论文引入 Weber-Fechner 定律(心理物理学中描述感知强度与物理刺激关系的经典定律)来建模情绪强度的"感知增长",我们将在下一讲深入讨论。

2. 论文概览与四模块架构

论文基本信息

标题E2Map: Experience-and-Emotion Map for Self-Reflective Robot Navigation with Language Models
作者Chan Kim, Keonwoo Kim et al. (Seoul National University, Stanford)
代码https://e2map.github.io/
核心思想将 LLM/LMM 评估的情绪分数编码到地图中,实现自反式导航

系统架构:四大核心模块

E2Map 系统由四个核心模块组成,协作完成"语言指令 → 导航执行 → 事件评估 → 地图更新"的闭环:

🧠 Goal Selector

利用 LLM code generation 将自然语言指令分解为可执行的目标列表。例如"去厨房拿一瓶水" → [到达厨房, 抓取水瓶]。

输入:自然语言指令 → 输出:目标列表

🗺️ Planning & Control

用 D* algorithm 做路径规划(以情绪为代价),MPPI(Model Predictive Path Integral)做底层控制。

输入:目标 + E2Map → 输出:控制信号

📸 Event Descriptor

多模态 LMM(类似 GPT-4o),输入事件发生前/中/后三张图像,输出事件描述文本 $l_{\text{evt}}$。

输入:前中后 3 张图像 → 输出:事件描述

❤️ Emotion Evaluator

LLM few-shot prompting,评估事件描述的二维情绪:upsetness (0–3) + guiltiness (0–3),总分 $s_{\text{emo}} \in [0, 6]$。

输入:事件描述 → 输出:情绪分数

🔄 工作流

语言指令 → Goal Selector → 按目标列表执行 → 导航中遇到事件 → Event Descriptor 拍摄三张图并描述 → Emotion Evaluator 评分 → 更新 E2Map → 路径重规划 → 调整行为。整个过程实现 one-shot behavior adjustment:一次事件就能改变机器人的后续路径选择。

3. E2Map 数学定义

E2Map 是一个多通道的张量,定义为:

$$ M \in \mathbb{R}^{\bar H \times \bar W \times (C_{\text{lang}} + C_{\text{emo}})} $$

$\bar H \times \bar W$

俯视栅格地图(top-down grid map)的空间尺寸。将三维环境投影到二维俯视图上。

$C_{\text{lang}}$

视觉-语言特征维度。用 LSeg(语言驱动分割 VLM)编码 RGB 图像,将像素级语义特征映射到栅格。

$C_{\text{emo}}$

情绪参数维度。每个栅格存储情绪模型的参数(高斯分布的均值和协方差)。

E2Map 由两部分拼接而成:

这种双通道设计使得 E2Map 同时具备语义理解和情绪记忆两种能力——前者回答"这是什么",后者回答"这里发生过什么感受"。

4. 情绪模型:多元高斯加权和

E2Map 的情绪模型不是简单的成功/失败计数器,而是一个基于多元高斯分布加权和的连续场:

$$ E(x) = \sum_i w_{p_i} \cdot \mathcal{N}_{p_i}(x) \tag{1} $$

其中各符号的含义如下:

符号含义说明
$\mathcal{N}_{p_i}(x)$$\mathcal{N}(x \mid \mu_{p_i}, \Sigma_{p_i})$以占据栅格 $p_i$ 为中心的二维高斯分布
$\mu_{p_i}$$[x, y]^{\mathsf{T}}$高斯分布的中心位置(栅格 $p_i$ 的坐标)
$\Sigma_{p_i}$$\operatorname{diag}(\sigma_x^2, \sigma_y^2)$对角协方差矩阵,控制情绪传播的空间范围
$w_{p_i}$$1 / N_{\text{val}_{p_i}}$ (式2)有效高斯分布数量的倒数,确保归一化

💡 设计思想

每个栅格 $p_i$ 的情绪用一个高斯分布表示,均值在栅格中心,协方差决定情绪影响的空间范围。所有高斯分布加权求和形成一个连续的情绪场。权重 $w_{p_i} = 1 / N_{\text{val}}$ 确保所有有效高斯分布对情绪场的贡献总和归一化。

情绪评估流程

情绪分数 $s_{\text{emo}}$ 的生成过程如下:

  1. 事件发生时,Event Descriptor 获取事件前/中/后 3 张图像
  2. 多模态 LMM 生成事件描述文本 $l_{\text{evt}}$
  3. Emotion Evaluator 用 few-shot prompt 评估 $l_{\text{evt}}$ → 输出 $(upsetness, guiltiness)$ 各 0–3
  4. $s_{\text{emo}} = upsetness + guiltiness \in [0, 6]$
  5. $s_{\text{emo}}$ 分为 positive ($s_{\text{emo}} \geq 4$) 和 negative ($s_{\text{emo}} < 4$) 两类

🔜 下一讲预告:E2Map 更新机制

情绪场如何更新?E2Map 的更新机制基于 Weber-Fechner 心理物理学定律:

$$ \sigma_{\text{new}, k} = \sigma_k \cdot v_k \cdot \log\left(\frac{s_{\text{emo}}}{T}\right), \quad k \in \{x, y\} \tag{式5} $$

其中 $v_k$ 是事件发生时机器人朝向的方向分量,$T$ 是 temperature 参数。负面情绪($s_{\text{emo}} < 4$)导致高斯分布协方差扩展,情绪影响范围增大;正面情绪使分布收缩。这是下一讲(0026)的核心内容。

5. 导航流程概览

E2Map 的完整导航流程(Algorithm 1 in paper)包含以下步骤:

  1. Goal Selector 将语言指令分解为目标列表
  2. 对每个目标:
    1. 用 D* algorithm 在 E2Map $M$ 上规划路径 $\tau$(以情绪为规划代价)
    2. MPPI 沿路径控制机器人运动
    3. 若遇到事件:
      • Event Descriptor 拍摄事件前/中/后 3 张图 → 生成事件描述 $l_{\text{evt}}$
      • Emotion Evaluator few-shot 评估 $l_{\text{evt}}$ → 情绪分数 $s_{\text{emo}}$
      • 根据 $s_{\text{emo}}$ 更新 E2Map(高斯参数调整,Weber-Fechner)
      • D* replan 更新后的路径
    4. 重复直到到达目标

⚡ One-Shot Behavior Adjustment

E2Map 的关键优势:一次负面事件就能立即调整后续的导航行为。传统方法需要多次统计才能学会避开某个区域;E2Map 通过情绪评价和 Weber-Fechner 更新,单次事件就能改变路径规划的行为偏好。

完整的算法细节、实验设置和仿真/真实世界结果将在下一讲(0026)中详细介绍。

📝 自测题

问题 1

E2Map 系统包含哪四个核心模块?

点击查看答案

Goal Selector(LLM code generation 将指令分解为目标)、Planning & Control(D* + MPPI)、Event Descriptor(多模态 LMM 描述事件)、Emotion Evaluator(LLM few-shot 评估 upsetness + guiltiness)。

问题 2

E2Map 的张量维度是什么?每个维度的含义是什么?

点击查看答案

$M \in \mathbb{R}^{\bar H \times \bar W \times (C_{\text{lang}} + C_{\text{emo}})}$。$\bar H \times \bar W$ 是俯视栅格地图的空间尺寸;$C_{\text{lang}}$ 是 LSeg 编码的视觉-语言特征维度;$C_{\text{emo}}$ 是情绪参数维度。

问题 3

E2Map 的情绪模型是如何定义的?

施老师大课堂 · 组内分享 · 张健强 · E2Map:架构与经验场 · 内容基于 E2Map 论文 (Kim et al., SNU & Stanford, 2024/2025)