Kann ich mit meinem Bachelor in BWL beim Finanzamt arbeiten?

Für BWL nicht direkt;

mittlere und gehobener Dienst wird selbst ausgebildet. Im dualen Studium zum gD gibt es viele, die bereits einen Bachelor oder noch ein Diplom in irgendeine Richtung haben; eine Studentin im letzten Jahr hatte sogar einen Master in BWL, irgendwas mit Fachrichtung Steuern. Brachte ihr für das Studium aber nicht viel.

In der Theorie steht der hD auch für Leute offen die BWL an einer Uni studiert und abgeschlossen haben. Ob man die Leute aber auch "will" bzw. nimmt, hängt von den Bundesländern ab. Einige haben ihre Laufbahnen für BWLer auf bestimmten Positionen geöffnet.

Nein, Sie benötigen entweder das 2te juristische Staatsexamen für den direkten Einstieg in den Höheren Dienst, oder müssen die Ausbildung zum Finanzwirt oder das Studium zum Diplom Finanzwirt direkt beim Finanzamt durchlaufen.

Stellen für Quereinsteiger gibt es nur selten (ich hatte eine Kollegin, die so eingestiegen ist und dann in einer Art Schnellkurs unterwiesen wurde, aber das ist Jahrzehnte her).