告别Token：字节级AI如何摘下人类的“有色眼镜”
大模型其实看不到真实世界：在学习开始之前，人工编写的预分词规则和固定的BPE词表就已经把数据切成了一个个词元，就像把名画变成填色格子板。本期深度解析从这里出发，聊Cartesia的层级网络（H-Net）如何在模型内部对原始字节进行动态分块；“苦涩的教训”为什么指向端到端学习；Jing Liang所说的“词元划定了机器认知的边界”；关于字节级模型的最新论文；以及 Not a ToE 关于词元与观测边界的哲学随笔。
https://www.cartesia.ai/blog/from-tokens-to-bytes-part-1
The skinny
The skinny isn't ready yet — notes appear once the transcript is processed.