chapter_02

수의 표현: 유효숫자와 반올림 오차 고정소수점 방식과 부동소수점 방식 비교 IEEE 부동소수점 표준과 실제 구현 계산 복잡도와 Big-O 표기법 수치적 불안정성의 개념 절대 오차와 상대 오차 분석 수치계산의 기본 개념: 누적 오차와 전파 오차 오버플로우·언더플로우의 원인과 대처 계산 시간·메모리 사용량 최적화 반복 연산 시 정확도 유지 방안 머신 엡실론(Machine Epsilon) 이해 실수 연산의 한계와 근사적 처리 정밀도(Precision) 향상을 위한 기법 동적 정밀도와 가변 소수점 연산 고성능 컴퓨팅(Parallel Computing)에서의 수치계산

Previous수치해석 학습을 위한 기본 도구와 소프트웨어 Next수의 표현: 유효숫자와 반올림 오차

Last updated 1 year ago