코딩하다가 처음 격어보는 문제를 발견해서 질문해봅니다.
itpp라는 (matlab과 같은 연산가능한) library를 사용해서 코딩하고 있습니다.
예를들면 cvec라는 것이 있는데 이는 comlex double의 vector입니다.
그런데 cvec으로 선언된 두 변수의 차이를 구하는데 같은 값이 들어 있을때 0이 나오지 않고 e-17이나 -e-17정도의 아주 작은 값이 나옵니다.
예를 들면 경우
cvec a = 9.812 + 3.1235i
cvec b = 9.812 + 3.1235i
cout << a-b ;
해보면 1.9882e-17
이런 식의 값이 나오는거죠.
혹시 이런 문제를 해결하는 방법 아시는 분 계신가 싶어서 질문드립니다.
googling 해도 찾기가 쉽지 않네요.