'Significant Digits'에 해당되는 글 1건

  1. 2011.03.17 Significant Digits 의 제한을 넘어 연산하고자할경우 _ MATLAB
MATLAB에서 최대한 표현할 수 있는 자리수는 16자리입니다.
이 이상의 자리수를 넘어 연산을 하고자할 경우에는
Symbolic Math Toolbox
를 사용하면 됩니다.

예를들어보면,

mod(2^100-1,2) 
은 0을 리턴하지만

mod(sym('2^100-1'),2)
는 1을 리턴합니다. 
Posted by leeyongwan
,