RewriteRule (.*)/amp/$ $1 [NC,R=301,L]

Düzenledim. 404 vermemesi gerekiyor, test ettim çünkü.