I speak a little Japanese.

語学力を控えめに伝える表現です。a little で「少しだけ」というニュアンスです。