キャッシュの大きいRDB vs インメモリデータベース、性能がどれだけ違うのか調べてみると − Blog on Publickey

http://www.publickey.jp/blog/09/rdb_vs.html

ディスクベースのRDBMSでは、クエリーの実行がディスクのI/Oを減らすことに
最適化されているのに対し、インメモリデータベースでは最初からメモリに
最適化されたクエリーの実行になっている

シーケンシャルなメディアを前提としたシステムと、完全なランダムアクセスが可能なメディアを前提としたシステムの差ということだろうか。
(もちろんアクセス速度差も圧倒的だが)