De Oostenrijkse kortharige Pinscher stamt af van de oorspronkelijke Pinschers, honden die voornamelijk op boerderijen te vinden waren als waakhond en verdelger van muizen en ratten. Van alle verschillende Pinscher-rassen, staat de Oostenrijkse kortharige Pinscher nog het dichtst bij het oorspronkelijke Pinschertype.
Vanaf 1921 is men het ras bewust zuiver gaan fokken, onder meer door de zoektocht naar vergelijkbare honden, de zogenaamde landpinschers. Landpinschers worden hedendaags nog steeds gebruikt om het ras gezond te houden. Op 26 oktober 1928 werd het ras nationaal erkend, maar met het uitbreken van de Tweede Wereldoorlog kwam het ras in grote problemen. Op een gegeven moment was er zelfs nog maar één vruchtbare reu over: Diokles von Angern. Outcross was nog de enige mogelijkheid om het ras van uitsterven te redden, en daarom liet men Diokles teefjes dekken waarvan de herkomst onduidelijk was. Nakomeling Nora vom Angern wordt beschouwd als de stammoeder van de moderne Oostenrijkse Pinscher.
Nora’s dochter, Betty vom Schildbach, was de eerste Oostenrijkse kortharige Pinscher buiten Oostenrijks. Na veel overleg, en op voorwaarde dat er van ieder van Betty’s nest een pup naar Oostenrijks zou gaan, mocht Betty in 1981 naar ons land komen. Nakomelingen van Betty zijn vervolgens ook de start geweest voor de fokkerij in Denenmarken, België en Duitsland.
Betty was beslist geen gemakkelijke hond betreffende de omgang met andere honden. In het bijzijn van een klein kind of iemand met een handicap, veranderde Betty en nam zij de verantwoordelijkheid op zich. Zelfs andere honden en katten werden in zo’n situatie volkomen genegeerd. De moeder van Betty’s eigenaar was slechtziend en slecht ter been, maar kon zonder problemen onder begeleiding van Betty met de trein naar Oostenrijk reizen. Behulpzame mensen werden goed toegelaten, maar zakkenrollers hadden geen schijn van kans.
In 2000 werd de rasnaam veranderd van Oostenrijke kortharige Pinscher in Oostenrijkse Pinscher.