opensslやreadlineをインストールし忘れた場合、extconf.rbを叩いてから再コンパイルしたりしますよね。こんな風に。
$ cd ~/.rvm/src/ruby-1.9.2-p136/ext/openssl
$ ruby extconf.rb
$ make
$ make install
上記はMacですが、Ubuntuの環境で同じことをした時にうまく行かなかったので、ついイラッとして以下のようにやりました。
$ rvm remove 1.9.2
$ rvm cleanup all
$ rvm install 1.9.2
こっちの方が楽ですね。まあちょっと時間はかかりますけど。