Ek olarak @sawashan yardımlarıyla bende olarak txt dosyamıza olmayan sayıları yazdırarak random limiti durunca uyarı vermesini sağladım.

<?php
function s_varmi($num) {
$aa=file_get_contents('dosya.txt');
$bb=explode('|',$aa);
for($i=0;$i<=count($bb)-1;$i++) {
if($bb[$i]==$num) {

return true;
}
}
return false;
}

$toplam_sayi="10";
$text_cek=file_get_contents('dosya.txt');
$text_bol=explode('|',$text_cek);
$text_say= count($text_bol);
if($text_say==$toplam_sayi) { echo"Kontrol edilecek sayı kalmadı"; } else{

$kontrol=true;
while($kontrol) {
$nm=rand(0,$toplam_sayi);
$kontrol=s_varmi($nm);
}
$txtdosya = "dosya.txt";
$txtveri = file($txtdosya);
			$txtsonuc = count($txtveri);
			$txtekle = fopen("$txtdosya", "a");
			fputs($txtekle, "$nm|");
			flock($txtekle, 3);
			fclose($txtekle);


echo "Yokmuş Ekledim: $nm";
}

?>