kasmayacak şekilde veri almak istiyorsan şöyle bir işlem olabilir. İlk başta php ile verisayısını ögrenip bu aralıkta rastgele sayı üretirsin.

$result = mysql_query("select count(id) from tablo");
while($row = mysql_fetch_array($result)){
         $adet = $row[0];
}
$rastgele=rand(0,$adet);
mysql_free_result($result);

$result = mysql_query("select *from tablo limit $rastgele,1");
while($row = mysql_fetch_array($result)){
      // datayla yapılacak ivir zivir
}
mysql_free_result($result);

ama bir test etmek lazim en azin şöyle 400 000 - 500 000 data ile bu mu daha hizli yoksa direk sql ile işlem yapmak mi hizli. sonuçta rastgele sıralarken limit veriliyorsa bunun gibi bir algoritma arka planda calisiyor olabilir