404.html yi nereye attınız? ana dizine mi alt klasöre mi? ana dizindeyse kod çalışması lazım. ana dizindeyse ona göre .htaccess'i düzenleyin.

Örnek; video klasörüne script kurduysanız ve hata dosyanız buradaysa kod şöyle olmalı ;

ErrorDocument 404 /video/404.html