Diğer dosyaları setup içerisine nasıl ekliyorsanız veritabanını da o şekilde ekleyebilirsiniz.
Sadece kullandığınız veritabanının gereksinim duyduğu diğer kütüphane vb. dosyaları da setup içerisine eklemeniz gerekir.
SQLite demişsiniz.. Onun işleri daha kolaydır. Sadece sqlite3.dll dosyası beraber bulunsun yeterli.