rbenv
rbenvで複数のバージョンのrubyを使用する環境を整える
http://memo.yomukaku.net/entries/ApoFwmf
さくらVPS契約後、最速でrails(MySQL+Apache)環境を構築する(CentOS6.2 - 2012年8月版)
http://qiita.com/items/b07beebca21ba7ed8e7f
あと、
RubyでMySQLに繋ぐためのruby-mysqlとmysql2
http://d.hatena.ne.jp/tagomoris/20111210/1323502295
gem install mysql2 がエラーを吐く時の対処法
WindowsでRuby, RoR始めるならpikとかオススメです。
(DevKitインストール忘れずに)
rbenvと似たような管理でpyenv, plenvがあるそうです。