Obgleich einer der Großen des Altwiener Kabaretts und in der phlegmatisch-pointierten Vortragstechnik seiner Couplets und Klapphornverse unverwechselbar und oftmals kopiert, geriet Armin Berg bald nach seinem Tod in Vergessenheit. Schon in den Jahren zuvor war es still geworden um den „Riesenreisenden mit dem gleichzeitig zu Heiterkeit und körperlichen Insulte einladenden feist-frohen Gesicht“ (Anton Kuh); ein Reisender in Sachen Lachen, der an seine großen Erfolge vor dem Zweiten Weltkrieg nicht mehr anzuschließen vermochte. Zwar hatte er (im Gegensatz etwa zu seinem bevorzugten Liedtexter Louis Taufstein) den Holocaust im New Yorker Exil u. a. als Verkäufer von Schreibwaren und Büroartikeln überlebt, doch der Nährboden seiner Komik, die jüdische ‚Kaffeehauskultur’ Wiens, war vernichtet.
1883 ‚bei Brünn’, wie sein ebenfalls aus Brünn gebürtiger Kollege und Freund Fritz Grünbaum spöttisch betonte, im heute eingemeindeten Husovice geboren, verdient sich Berg an den Provinzbühnen von Leitmeritz, Teplitz, Ostrau und Aussig seine ersten Sporen als Komiker, bevor er achtzehnjährig den Sprung in das Theaterleben der Großstadt wagt. Sein erstes Engagement freilich verdankt er dort nicht dem Gespür eines findigen Theaterdirektors, sondern dem Geschäftsinteresse des Praterwirts Zum Marokkaner. So avanciert er zunächst zum Star des Wurstelpraters, der in anspruchslosen Einaktern ein mehr an leiblichen als an künstlerischen Genüssen sich delektierendes Publikum erheitert, bevor ihn Heinrich Eisenbach für das Budapester Orpheum engagiert, das auf jüdische Jargonpossen und Kabarettprogramme spezialisiert ist. 17 Jahre wird er diesem 1889 von Josef Modl und Matthias Bernhard Lantzky gegründeten und längst in Wien etablierten Ensemble angehören. Dessen Leitung hat der aus Krakau stammende Eisenbach 1908 übernommen und das Jargontheater in einer Weise perfektioniert, dass selbst Karl Kraus ihm 1912 seine Bewunderung ausspricht und das Budapester Orpheum mit seinen „Künstler[n] wie die Herren Eisenbach und Rott, Könner[n] wie Herrn Berg“ der verhassten Burgtheaterdirektion als Maßstab empfiehlt. Als Kiebitz Dowidl brilliert Berg fortan in der Klabriaspartie, Adolf Bergmanns 1890 entstandener Posse über eine Kaffeehauskartenrunde, die als ironisch-witzige Selbstinszenierung jüdischer Subkultur mit ihrer brillanten Typengestaltung und Situationskomik das Glanzstück des Budapester Orpheums ist. Auch noch während seines Exils sollte Berg 1942 mit dem Kabarett der Komiker (‚KadeKo’) bei diesem Stück mitwirken.
Durch seine signifikante Erscheinung und seine charakteristische Vortragskunst wird er rasch zu einem der beliebtesten Wiener Kleinkunstdarsteller: „der Rock kurz, die Beinkleider eng wie ein Trikot, ein zu kleines Hütel auf dem Kopf, das obligate, purzelbaumschlagende Stöckchen in der Hand. Der Vortrag war ein phonetisches Abbild dieser Kleidung – ein tonloses, kurzatmiges Herauslassen der Worte in unendlichem Reimgeleier.“ (Anton Kuh) So trägt er auch jene Couplets vor, die untrennbar mit ihm verbunden sind, auch wenn sie zum Großteil aus der Feder bekannter und weniger bekannter Autoren wie Louis Taufstein (etwa das beliebte Da könnt’ man weinen wie ein kleines Kind), Fritz Löhner-Beda (z. B.: Der verhängnisvolle Kragenknopf) oder Josef Armin (z. B.: Ich muß wieder einmal im Dampfbad sein, eine Parodie auf Ralph Benatzkys Grinzinglied) stammen und von Komponisten wie Oskar Straus oder Hans Lang vertont wurden. Für Text und Musik seiner beiden wohl berühmtesten Lieder Der Überzieher und Der gewissenhafte Maurer zeichnet sich der Berliner Kabarettist Otto Reutter (eig. Pfützenreuter) verantwortlich. Populär durch seine hinreißend komische Darstellung des Burschen vom Land, des naiven Schwiegersohns oder des devot-gerissenen Gehilfen reüssiert das „Frotzelgesicht über zwei langen Gummi-Beinen“ (Anton Kuh) auf beinah allen bekannten Wiener Unterhaltungsbühnen, wie dem Simpl (ab 1912) oder der Possenbühne Max und Moritz (ab 1915). Auch als Besitzer eines eigenen Nachtlokals (Die Kleine Lachbühne) versucht er sich, scheitert jedoch letztendlich an der hohen Vergnügungssteuer, mit der der sozialistische Stadtrat Hugo Breitner den Amüsierbetrieb belegt, um Geld für das daniederliegende Gesundheitswesen zu lukrieren. Bergs Argumentation, die Kranken bräuchten Spitäler, die Gesunden aber Theater, zeigte Breitner sich – wie Friedrich Torberg berichtet – nicht zugänglich.
1924 wird das Max und Moritz nach einem verlorenen Prozess mit der Wiener Ballhausgesellschaft geschlossen, Teile des Ensembles (u. a. Hans Moser, Sándor Rott, Sigi Hofer) übersiedeln an die Roland-Bühne und spielen nun als ‚Theater der Komiker’ (einige Monate mit Armin Berg in der Direktion). Im selben Jahr feiert Hans Karl Breslauers Verfilmung des bedrückend hellsichtigen Romans Stadt ohne Juden von Hugo Bettauer Premiere, in der Berg als Kommis Isidor mitwirkt. Nicht seine erste Filmrolle, hatte er doch bereits während des Ersten Weltkriegs (wie andere ‚Budapester’ auch) in einigen Stummfilmen gespielt; weitere kleine und größere Rollen (etwa in Fritz Breuers Die Herren Lausbuben mit Fritz Imhoff, 1933) folgen. Sein eigentliches Metier allerdings bleibt das Varieté, das er mit einer heiteren Kunst bereichert, die in der Natürlichkeit gründet: „Er selbst war die Type, die er immer darstellte“ (Rudolf Weys). Sein lebensfroher, gänzlich unaggressiver Humor, den er nicht nur auf der Bühne besitzt, sondern seinem stets wohlgelaunten, warmherzigen Naturell entspricht, prädestinieren ihn zum Volkskomiker. Der Kabarettboom der Zwischenkriegszeit verschafft ihm dann auch in den folgenden Jahren eine Popularität, die sich u. a. auch an den zahlreichen Schellackaufnahmen oder den vielen Armin Berg-Kopien und auch -Parodien ablesen lässt. Seine leiernd vorgetragenen Lieder mit dem markant gerollten ‚R’ treffen ebenso den Publikumsgeschmack wie das atemlos hervorgesprudelte Witzestakkato oder seine selbstironischen Anekdoten (deren biographischer Gehalt freilich nicht überschätzt werden darf!). Als Lachgarant ist er eingebunden in viele der nun populären Ausstattungsrevuen, u. a. in Zusammenarbeit mit Fritz Grünbaum (so etwa in Hallo, hier Grünbaum! [1927], Weltgeschichte gefällig? [1928] oder Weh dem, der liebt [1928] am Boulevard-Theater). Aber auch am Simpl, im Pavillon, im Dritten Kaffeehaus im Prater und auf anderen Bühnen lacht man über seine liebenswert-oberflächliche Komik, die vor allem unterhalten will. Nach mehreren Gastspieltourneen tritt er in den letzten Wiener Jahren vor der nationalsozialistischen Herrschaft zumeist im Ronacher auf.
Mit dem Einmarsch Hitlers 1938 sieht sich Berg zur Flucht aus Österreich gezwungen, die ihm im Gegensatz zu so vielen seiner Berufskollegen wie Grünbaum, Paul Morgan oder Fritz Löhner auch gelingt. Mit seinen dürftigen Englischkenntnissen ist er in New York freilich zunächst auf die Hilfe von Freunden angewiesen, zumal auch die Auftritte in den kleinen Exilantencafés wie dem Old Europe oder in Lublo’s Palm Garden oft nicht mehr als eine warme Mahlzeit einspielen. Nur selten bietet sich die Gelegenheit zu Auftritten in größerem Rahmen, wie der Nacht der Prominenten am 22.3.1941. Ende desselben Jahres versucht er deshalb zusammen mit Karl Farkas im Playhouse des artistes eine ständige Revuebühne zu etablieren, doch bleibt es bei einer Silvestervorstellung und der (an der erfolgreichen Weltausstellungsrevue von Farkas und Grünbaum angelehnten) Produktion von Ali Farkas und die 40 Berge, die aber nach zwei Wochen wieder abgesetzt wird. 1942 wird er für die Abende der Austrian Cavalcade engagiert, die Felix Gerstmann für die Austrian Action, dem bürgerlich-liberalen politischen Sammelbecken der Exilanten, organisiert. Anfang 1943 tourt er mit der Cavalcade durch die Nordstaaten und tritt u. a. als Ur-Faust in Faust III. Nicht von Goethe auf. Kurz darauf allerdings wird die Austrian Cavalcade aus politischen Gründen behördlich verboten. Andere Auftrittsmöglichkeiten eröffnen sich durch das KadeKo Kurt Robitscheks (später: Ken Robey) v. a. im Pythain Theatre und die von Leo Reisz (später: Rice) veranstalteten Wiener Abende in der Town Hall, die Berg auch noch nach Kriegsende confériert.
Erst 1949 kehrt Armin Berg nach Wien zurück und wird umgehend für die neue Simpl-Revue Wir heizen ein von Hugo Wiener engagiert. Ein Jahr später ist er selbst für die Programmgestaltung der neueröffneten Kleinkunstbühne Lachendes Kabarett verantwortlich, Gastspiele in Amsterdam und Zürich folgen. Doch die Zeit seiner uneingeschränkten Popularität ist vorbei. Eine neue Kabarett-Generation ist herangewachsen, die für ein verändertes Publikum spielt. Mit Bergs Tod 1956 sinkt – wie Torberg in seinem Nachruf konstatiert – ein „letztes Stück Wiener Vorstadt-Theatergeschichte [...] mit ihm ins Grab.“ (Christian Neuhuber, Olmütz)