http://forest.nubimaru.com/ 시간의 토양에 기억의 나무를 심으며 2008-09-05T00:13:52+09:00 Textcube 1.8 : Alpha 3 (daybreaker) http://forest.nubimaru.com/entry/difference-between-computer-and-human#comment8745 2008-04-05T20:22:41+09:00

제가 고등학교 때 비주얼 베이직으로 Ax=b를 푸는 프로그램을 만들 당시 찾아봤던 문서에서도 그런 수치 오류를 줄이기 위한 방법들이 몇 가지 있더군요. pivot를 선택할 때 그 열에서 가장 큰 수를 택한다든가 등등.. 양자컴퓨터가 개발되어 10진법(?)으로 계산이 가능해진다면 좀 나아지려나요;;;

(inureyes) http://forest.nubimaru.com/entry/difference-between-computer-and-human#comment8753 2008-04-10T21:54:06+09:00

10진법으로 계산이 가능해져도 크게 다르진 않을겁니다.^^