с точностью до ... значащих цифр

The calculation is done with a precision of 10 significant figures.

Источник: Русско-английский научно-технический словарь на Gufo.me