💾 浮点数转换

IEEE 754 标准详解

IEEE 754（1985年发布，2008年修订）是浮点数运算的国际标准，现代所有CPU和编程语言都遵循此标准。浮点数用类似科学记数法的方式表示：value = (-1)^s × (1 + fraction) × 2^(exponent - bias)

• 符号位（sign）：1位，0表示正数，1表示负数。注意+0和-0有不同表示
• 指数位（exponent）：单精度8位（偏置127），双精度11位（偏置1023）。指数用移码而非补码存储
• 尾数位（fraction/mantissa）：单精度23位，双精度52位。默认含隐含位"1."（正规数），非规格化数不含隐含位
• 偏置（bias）：单精度=127，双精度=1023，用于将指数从有符号转为无符号存储

IEEE 754 各精度参数

参数	半精度(16位)	单精度(32位)	双精度(64位)	扩展双精度(80位)
符号位	1	1	1	1
指数位	5	8	11	15
尾数位	10	23	52	64
指数偏置	15	127	1023	16383
最大正规值	65504	≈3.4×10³⁸	≈1.80×10³⁰⁸	≈1.19×10⁴⁹³²
最小正规正值	≈6.1×10⁻⁵	≈1.18×10⁻³⁸	≈2.23×10⁻³⁰⁸	≈3.36×10⁻⁴⁹³²
最小非规格正值	≈5.96×10⁻⁸	≈1.4×10⁻⁴⁵	≈4.94×10⁻³²⁴	≈3.65×10⁻⁴⁹⁵¹
十进制精度	≈3位	≈7位	≈16位	≈19位
GPU/AI常用	是（bfloat16更常用）	否	否	否

浮点数精度问题详解

浮点数精度问题是编程中的经典陷阱，根本原因是用有限的二进制位表示无限精度的十进制数：

• 0.1 + 0.2 ≠ 0.3：0.1和0.2在二进制中是无限循环小数，截断后的近似值相加不等于0.3的近似值
• 银行/金融计算不能用浮点数：金额应使用整数（分）或BigDecimal库，避免精度误差累积
• 0.1在双精度中的存储值：0.1000000000000000055511151231257827021181583404541015625
• 浮点数比较不能用 ==：应使用Math.abs(a - b) < epsilon（如epsilon=1e-10）的方式比较是否"足够接近"
• 大数吃小数：1e20 + 1 - 1e20 = 0，因为1相比于1e20太小而被舍入
• JavaScript只有双精度：JS不区分float和double，所有数字都是64位双精度，大整数>2^53-1会丢失精度

特殊值详解：NaN/Infinity/Denormalized

IEEE 754定义了多种特殊值来处理边界情况：

• NaN（Not a Number）：指数全1，尾数非0。分为quiet NaN（qNaN，最高尾数位=1）和signaling NaN（sNaN，最高尾数位=0）。任何与NaN的运算结果都是NaN
• Infinity（无穷大）：指数全1，尾数全0。正无穷(+∞)和负无穷(-∞)。1/0 = ∞，-1/0 = -∞
• Denormalized/Subnormal（非规格化数）：指数全0，尾数≠0。填补0到最小正规数之间的间隙，保证从0到最小正规数平滑过渡。没有隐含的"1."
• 正零和负零：+0和-0在比较时相等（+0 === -0），但1/+0 = +∞，1/-0 = -∞
• 这些特殊值的存在使得浮点数系统成为一个闭集：任何算术运算（包括除以零）都返回一个浮点结果，不会导致程序崩溃

半精度与 bfloat16 —— AI/GPU 中的新格式

随着AI和深度学习的发展，低精度浮点格式变得越来越重要：

• 半精度（FP16）：16位，5位指数+10位尾数。NVIDIA GPU从Pascal架构（2016）开始支持，推理速度翻倍但精度损失需Tensor Cores弥补
• bfloat16（Brain Floating Point）：16位，8位指数+7位尾数。Google于2018年推出，指数范围与单精度相同（8位），只是尾数精度降低
• bfloat16优势：与单精度指数范围一致，转换时只需截断低16位尾数，O(1)操作；半精度则需要更复杂的舍入逻辑
• TF32（TensorFloat-32）：NVIDIA的Ampere架构引入，19位，8位指数+10位尾数。在Tensor Core中自动使用
• FP8（8位浮点）：NVIDIA H100支持，用于大模型推理，分E4M3（4位指数+3位尾数）和E5M2（5位指数+2位尾数）