MATLAB
Significant Digits 의 제한을 넘어 연산하고자할경우 _ MATLAB
leeyongwan
2011. 3. 17. 01:37
MATLAB에서 최대한 표현할 수 있는 자리수는 16자리입니다.
이 이상의 자리수를 넘어 연산을 하고자할 경우에는
Symbolic Math Toolbox
를 사용하면 됩니다.
예를들어보면,
mod(2^100-1,2)
은 0을 리턴하지만
mod(sym('2^100-1'),2)
는 1을 리턴합니다.
이 이상의 자리수를 넘어 연산을 하고자할 경우에는
Symbolic Math Toolbox
를 사용하면 됩니다.
예를들어보면,
mod(2^100-1,2)
은 0을 리턴하지만
mod(sym('2^100-1'),2)
는 1을 리턴합니다.