„K-On!” to historia Yui Hirasawy, która na początku nowego roku szkolnego szuka klubu do wstąpienia. Przypadkiem odkrywa Klub Lekkiej Muzyki, który źle interpretuje jako klub grający na prostych instrumentach. Choć nie potrafi grać na żadnym instrumencie, decyduje się odwiedzić klub, żeby przeprosić i zrezygnować. Tymczasem klub jest na skraju rozwiązania z powodu braku członków. Członkowie klubu robią wszystko, aby przekonać Yui do wstąpienia. W końcu grają dla niej kawałek, który rozpala jej pasję do muzyki i ostatecznie przekonuje ją do dołączenia. Od tego momentu członkowie Klubu Lekkiej Muzyki spędzają wspólnie przyjemny czas, pełen zabawy, musicie i różnych aktywności.