Этот самозарядный пистолет был разработан «Маузером» для участия в конкурсе на лучшую конструкцию для вооружения армии. Создал его один из братьев Федерле, работавший в фирме руководителем отдела. Маузеровскими были и боеприпасы, разработанные на базе патрона Борхарда калибра 7,65 мм. Эти патроны оказались крайне удачными и принесли фирме невероятный успех.
Пистолет К-96 получил такое название, потому что впервые появился в 1896 г. Несмотря на то, что официально он так и не был принят на вооружение, пистолет пользовался успехом. С 1896 по 1934 г. «Маузер» выпустила 22 модификации этого оружия. Существуют также варианты отдельных модификаций. Все они различаются между собой следующими особенностями:

— рукояткой большого или маленького размера, со щечками из дерева или твердой резины;
— емкостью неотъемного магазина, который может вмещать 6, 10 или 20 патронов;
— наличием отъемного магазина емкостью 6,10, 20 или даже 40 патронов;
— возможностью вести огонь очередями (как в модели 1932 г.);
— калибром (существуют модификации под патрон 7,63 Маузер, 7,65 Парабеллум, 8,15 мм, 9 мм Маузер, 9 мм Парабеллум, 9 мм Ларго и .45 АКП [китайская модель]);
— наличием постоянного или переменного прицельного приспособления.
С 1912 по 1918 г. «Маузер» выпускала эти пистолеты в очень больших количествах. Особенно широкое распространение получила модель М-12 под патрон 9 мм Маузер, известная также как Армейская или Маузер Боло. С 1916 г. К-96 выпускали также под патроны 9 мм Парабеллум. В этом случае на рукоятку наносилась рельефная цифра «9», выкрашенная красным лаком. К-96 активно экспортировались в такие страны, как Италия, Франция, Финляндия, Норвегия, Австрия, Иран, Таиланд и Турция. Некоторые образцы снабжались кобурой-прикладом и секторным ступенчатым прицелом для стрельбы на расстояние 450 и даже 700 м. Кроме собственных маузеровских клейм, на экспортных образцах встречаются клейма других компаний, таких, как «Уэст-ли Ричарде энд Ко», «Штегер Инк.», «Джеффри энд Ко», «Ленгерке энд Детмолд» и др. Выпускали К-96 также испанская «Астра» и множество мелких китайских компаний (именно они представили на рынок модель под патроны .45 АКП). О популярности этого пистолета говорит тот факт, что личным оружием премьер-министра Великобритании Уинстона Черчилля был именно К-96. Производство пистолетов Маузер прекратилось в 1945 г. после капитуляции фашистской Германии. Модель К-96 была оснащена ударно-спусковым механизмом одинарного действия. Стандартный магазин вмещал 10 патронов. Общая длина оружия—298 мм, длина стандартного ствола — 162 мм. Флажковый предохранитель находился на задней поверхности рамки рядом с курком. Иногда отдельные образцы покрывались красивой гравировкой.