2008年10月16日木曜日

水曜日の授業:数値解析学

水曜日午前は3年生向け数値解析学。

今日は整数の2の補数表現、浮動小数点数だけで終了。数をどのように表現するかと、数そのものは関係がないということを強調した。例えば同じ1, 0の並びでも、それが2の補数表現された整数なのか、IEEE754に則った浮動小数点数なのか、によって表す数はぜんぜん違う。

テキストにしているのは、高橋大輔「理工系の基礎数学 (8) 数値計算
」(amazon.co.jpでは書名が正しく入っていない。カタログ情報の更新から連絡済)。

数学的に厳密であるよりは平易であることを目指しているようで、その目標は達成されていると思う。また、連立一次方程式の解法が最後に述べられていて、これは「なぜ連立一次方程式を数値的に解きたいか」という動機付けを優先させた為、とある。

0 件のコメント: