如何实现一个基于MediaStream的实时视频处理管道？

答案是通过getUserMedia获取视频流，利用canvas逐帧处理并用captureStream生成新流，实现浏览器内实时视频处理。具体流程包括：1. 调用navigator.mediaDevices.getUserMedia({ video: true })获取原始视频流；2. 创建隐藏canvas元素，使用其2D上下文对视频帧进行绘制与处理，如滤镜或AI分析；3. 调用canvas.captureStream(30)将处理后的帧封装为新的MediaStream；4. 将新流绑定到video标签预览或传入RTCPeerConnection用于WebRTC传输；关键在于使用requestAnimationFrame保持帧率稳定，确保实时性。

要实现一个基于 MediaStream 的实时视频处理管道，核心思路是捕获视频流、通过 WebRTC 和 Canvas 或 WebGL 进行逐帧处理，并将处理后的帧重新封装为新的 MediaStream 输出。整个流程可以在浏览器环境中完成，无需服务器参与。

1. 获取原始视频流

使用 getUserMedia() 获取摄像头或屏幕共享的视频流：

const stream = await navigator.mediaDevices.getUserMedia({ video: true });

这会返回一个包含视频轨道的 MediaStream，后续可对其进行处理。

2. 创建画布进行帧处理

创建一个隐藏的 <canvas> 元素，用于绘制和修改每一帧图像：

const canvas = document.createElement(‘canvas’);
const ctx = canvas.getContext(‘2d’);

在定时循环中从原始视频中绘制当前帧：

function processFrame(videoElement) {
ctx.drawImage(videoElement, 0, 0, canvas.width, canvas.height);
// 可在此进行滤镜、边缘检测、AI推理等处理
}

你可以调用 getImageData() 获取像素数据做进一步操作，比如灰度化、模糊、颜色替换等。

3. 将处理后的帧转为新的 MediaStream

使用 canvas.captureStream(fps) 方法，将画布内容转化为新的视频流：

const processedStream = canvas.captureStream(30); // 30fps

这个新流可以包含经过滤镜、叠加图形或 AI 处理后的内容。你还可以移除原始音频轨道或添加新的音频源。

4. 实时显示与传输

将处理后的流绑定到 <video> 标签进行预览：

const videoOutput = document.getElementById(‘output’);
videoOutput.srcObject = processedStream;

如果需要发送到远程端（如 WebRTC 通话），可将该流作为 RTCPeerConnection 的发送源：

peerConnection.addTrack(processedStream.getVideoTracks()[0]);

整个处理过程的关键是保持帧率稳定。建议使用 requestAnimationFrame 同步绘制节奏，避免卡顿。

基本上就这些。通过组合 MediaStream、canvas 和 captureStream，你可以构建灵活的实时视频处理管道，适用于美颜、虚拟背景、OCR 前处理等场景。