为什么 SQL Server 返回 0.759999 之类的数字，而 MySQL 返回 0.76？

Question

我有一个包含三列的 SQL Server 数据库表。例如，此列中的一个值可能是 0.76。这列名为“paramvalue”的数据定义为real。当我使用 pyodbc 模块命令时fetchall()，我得到一个像 0.7599999904632568 而不是 0.76 的数字。我正在使用 Visual Studio 2017 和 Visual Studio 的 Python 工具。我也尝试过 pypyodbc 模块，但遇到了同样的问题。

该表有三列，定义如下；

pconfig_id [int] IDENTITY(41,1) NOT NULL,

paramname  [nvarchar](50)       NOT NULL,

paramvalue [real]                   NULL

我的 Python 代码：

import pyodbc

cnxn = pyodbc.connect('DRIVER={SQL Server};SERVER=SERVERNAME;DATABASE=DBNAME;UID=USER;PWD=PASSWORD;Connect Timeout=15')

cursor = cnxn.cursor()

dict = {}

rows = cursor.execute("SELECT * FROM mytable")

for row in cursor.fetchall() :

    if not row[1] in dict.keys():

        dict[row[1]] = {}

        dict[row[1]][row[2]] = row[0]

在上面的示例中，典型行的 row[2] 的值是 0.7599999904632568，而不是预期的 0.76。

Answer 1

我应该提到这个数据库是从 MySQL 数据库迁移而来的，在这种情况下，类型是浮点数。当我使用 MySQLdb 模块从该 MySQL 表中获取数据时，它按预期输入为 0.76。这不是由 pyodbc 引起的问题。MySQL 和 MSSQL 的区别在于浮点数的显示方式。0.76 不是一个可以精确表示为 32 位浮点（“单精度”）值的值。正如这个网站（和其他网站）会告诉你的那样，这个数字的最准确表示是 7.599999904632568359375E-1，所以这就是两个数据库存储的内容（内部表示为 0x3F428F5C）。检索值时，MSSQL 返回写入数据库的实际值。这就是为什么它返回为 0.7599999904632568。另一方面，MySQL 返回表示浮点值的最短字符串，这将导致给定的存储值。如文档中所述：F -> D 转换以尽可能高的精度完成，将 D 作为最短字符串返回，当读回并四舍五入到 IEEE 指定的本机二进制格式中的最接近值时产生 F。因此，MySQL 往返 0.76，因为它恰好是对应于内部表示为 0x3F428F5C 的浮点值的最短值。这可以通过使用非常接近 0.76 但不完全相等的数字进行测试来说明：is_mssql = (cnxn.getinfo(pyodbc.SQL_DRIVER_NAME) == 'msodbcsql17.dll')crsr = cnxn.cursor()test_value = '0.7599999905'if is_mssql:    crsr.execute("CREATE TABLE #foo (x real)")    crsr.execute(f"INSERT INTO #foo (x) VALUES ('{test_value}')")    result = crsr.execute("SELECT x FROM #foo").fetchval()else:    crsr.execute("CREATE TEMPORARY TABLE foo (x float(23))")    crsr.execute(f"INSERT INTO foo (x) VALUES ('{test_value}')")    result = crsr.execute("SELECT x FROM foo").fetchval()print(f'{"MSSQL" if is_mssql else "MySQL"} returned {result}')即使 0.7599999905 是“实际”值，MySQL 仍然返回 0.76，MSSQL 仍然返回 0.7599999904632568。

Answer 2

这是由于四舍五入 -Real类型是近似的。https://docs.microsoft.com/en-us/sql/t-sql/data-types/float-and-real-transact-sql?view=sql-server-2017