ADO.NET wäre dann wohl das was du meinst. Normal brauchst du dafür Access nicht installiert haben. Lediglich das .NET Framework und halt dein bevorzugtes VS.
ADO.NET ? Wikipedia
Das sollte dir helfen.
Alternativ kannst du natürlich auch das XML Format zum Speichern deiner Daten nutzen.
An dieser Stelle wäre es auch hilfreich zu wissen was für Daten dies sind. Bei Konfigurationsdaten und ahnlichem kann ich dir nur INI oder XML wärmstens empfehlen.
Da bietet dir .NET auch einige Klassen zum Erstellen und Manipulieren solcher Dateien an.
Handelt es sich um eine Art Log würde ich normale txt-Dateien nehmen in welche die Logs halt dann geschrieben werden.
Wenn du allerdings eine richtige kleine Datenbank hast wie z.B. Auflistung aller Mobs aus WoW mit Attributwerten usw, empfiehlt es sich dann entweder XML oder eben Access/Whatever zu nehmen.
PS: Das parsen einer normalen Textfile ist nur so langsam wie man's programmiert. Evtl solltest du dir mal einen eigenen Parser schreiben und damit etwas rumspielen.