À la suite de la guerre franco-allemande et de l’annexion de l’Alsace-Lorraine en 1871, la prison de Colmar passe sous souveraineté de l’Empire allemand. Durant ce long intervalle, le célèbre dessinateur colmarien Jean-Jacques Waltz, dit Hansi, y est incarcéré au mois de mai 1914. Suite à la publication de son ouvrage Mon village. Ceux qui n’oublient pas en 1913, il comparaît le 18 mai 1914 devant le tribunal correctionnel de Colmar. Accusé de crime de haute trahison, le tribunal se déclare incompétent et il est placé en détention préventive à la prison de Colmar en attendant d’être déféré à la Haute-Cour de Leipzig. Il y reste quelques semaines et raconte son incarcération dans son ouvrage L’Alsace heureuse :
« Quand je traversai la rue, tous me faisaient escorte. J’entendis encore un Boche [sic] – plus lâche que les autres – me crier une insulte, et la lourde porte se referma sur moi. […] Dans la prison, c’était déjà la nuit. Je suivis un gardien muni d’une lanterne. On me fouilla, on me prit mes papiers, mon canif, mes cigarettes et le chocolat qu’au moment de l’arrestation mes amis avaient glissés dans mes poches. Puis je suivis un autre gardien qui me conduisit par de mornes couloirs, barrés de lourdes grilles qu’il refermait avec soin derrière moi. Enfin il ouvrit une cellule, m’y poussa et referma la porte. J’entendis grincer quelques verrous, tourner des clefs, et ce fut le silence absolu. […] La rangée de petits traits s’allongeait, les journées s’écoulaient longues et monotones dans la prison silencieuse. De ma cellule, on n’entendait que le bruit de troupeau en marche des prisonniers tournant en rond dans la cour. Parfois, un cri du gardien toujours en fureur. Il hurlait : « Schrill halten ! » (Au pas !) ou « Maul halten ! » (Silence !), et le rythme monotone reprenait inlassablement. »

La règle du silence en vigueur dans les établissements pénitentiaires français s’applique donc également sous l’autorité allemande. Mais sous un jour beaucoup plus sévère car elle semble également s’appliquer durant la promenade alors que le règlement général pour les prisons départementales du 30 octobre 1841 n’impose le silence obligatoire aux détenus français que durant les repas, le travail et dans les dortoirs. De même, l’usage du tabac est autorisé aux prévenus et aux accusés dans le système français. Il est par contre interdit aux condamnés. Mais du fait du mélange des différentes catégories à la prison de Colmar, les condamnés y ont dans les faits également accès. Le gardien-chef le tolère par exemple lorsqu’ils sont en promenade sous le préau. Mais Hansi est privé de tabac durant toute sa détention, ce qui lui pèse beaucoup.

Lorsque l’établissement repasse sous souveraineté française en 1919, les Français récupèrent un établissement dans lequel les Allemands ont réalisé d’importants travaux. La prison, d’une contenance théorique de 250 hommes et 50 femmes, a été partiellement restaurée en 1906 et dotée deux ans plus tôt d’un nouveau quartier cellulaire (dit « quartier neuf »). Il est installé dans une aile de la prison et contient 27 cellules disposées sur trois étages. Le quartier d’emprisonnement en commun, surnommé « vieux quartier », contient un grand dortoir de 50 lits et 8 dortoirs de 8 à 10 lits. Dans un état beaucoup plus vétuste, il est surtout réservé aux détenus punis ou isolés. Les ateliers ont été également entièrement restaurés et présentent de bonnes conditions d’hygiène. Mais l’établissement comprend également des défauts. Les portes des cellules sont dotées de judas beaucoup trop petits pour que l’on puisse y voir à travers et ne disposent pas d’ouvertures pour faire passer les plats. La multiplication des dortoirs rend la surveillance particulièrement difficile et impose de recourir à des prévôts, c’est-à-dire à des détenus auxiliaires des surveillants. Le plus grand dortoir en compte ainsi cinq : un installé aux quatre coins et un cinquième au milieu. Moyennant des rations supplémentaires de vivres, ils sont chargés d’assurer la discipline et d’aller quérir les surveillants en cas de besoin (ou de les informer des projets d’évasion qu’ils surprennent). Enfin, l’établissement ne dispose que de deux pommes de douche, ce qui n’autorise qu’une douche hebdomadaire l’été et une tous les quinze jours l’hiver. Ce n’est qu’en 1938 qu’une nouvelle salle de bains disposant de cinq cabines de douches et d’une baignoire est aménagée, permettant à chaque détenu de pouvoir prendre une douche hebdomadaire.

Le personnel est constitué d’un surveillant-chef, de deux commis greffiers, d’un premier surveillant, de douze surveillants et de quatre sœurs. L’organisation de leur service à la prison de Colmar est assez singulière. L’inspecteur général des services administratifs, Armand Mossé, décrit dans un rapport de tournée qu’il effectue en 1924 à la maison d’arrêt de Colmar un cycle de travail des surveillants qui va se diffuser largement au reste des établissements pénitentiaires français durant l’entre-deux-guerres. Toujours en vigueur de nos jours, ce cycle appelé « matin-nuit » a été introduit en France par l’administration pénitentiaire allemande. Voici sa première description :
« Les surveillants prennent leur service à 6 H 30, vont déjeuner en deux équipes de 10 H à 2 H (2 heures chacun) mais ne sortent le soir qu’à 7 H. Quant à ceux qui sont de garde (2 par nuit) ils ont un repos qui comporte l’après-midi de la veille et la matinée du lendemain. Ainsi on fait l’économie du temps que, partout ailleurs, on est obligé de leur accorder pour le repas du soir avant la prise de garde, c’est un bon système qui pourrait être généralisé. »
Ce système permet aux surveillants de bénéficier d’un « repos de descente de garde » suivi de leur repos hebdomadaire. Ainsi, ils peuvent disposer de deux jours de repos consécutifs, ce qui représente une amélioration conséquente de leurs conditions de travail. La nuit, ils doivent effectuer tous les quarts d’heure des rondes d’environ dix minutes. Ils disposent d’un chronomètre spécial de rondes et l’établissement est pourvu en tout de huit boîtes de contrôle. Les rondelles de ces chronomètres sont ensuite transmises à la direction régionale des services pénitentiaires de Strasbourg avec le rapport quotidien de l’établissement.

Les surveillants de l’établissement rencontrent des difficultés pour se loger à Colmar car le coût des loyers y est très élevé. Pour remédier à cette situation, l’administration pénitentiaire décide en 1933 de leur louer des logements situés dans un immeuble contigu à la maison d’arrêt qui lui appartient (dont l’entrée se situe au 23 rue Berthe Molly) et qu’elle loue à des commerçants. Sa proximité permet aux surveillants de pouvoir intervenir rapidement en détention en cas de besoin et cet immeuble est donc réservé au personnel de la maison d’arrêt qui se voit prélever entre 20 et 22 francs de loyer mensuel sur son traitement. L’immeuble comprend 3 logements au rez-de-chaussée, 4 au premier étage et 3 au deuxième. Mais du fait de leur mauvais état et ne disposant d’aucune salle d’eau, ni de WC, seuls 5 de ces logements peuvent être effectivement occupés.

À partir de 1940, l’établissement passe à nouveau sous souveraineté allemande, et ce jusqu’en 1945. À la Libération, cet établissement « vieux et sale » renoue avec des situations de surpopulation carcérale, essentiellement due à l’activité des cours de justice contre des collaborateurs. Désormais évaluée à une contenance théorique de 130 hommes et 30 femmes, l’effectif de la prison aligne des chiffres bien plus élevés : 265 en 1945, 228 en 1946, etc.
En ce qui concerne le quotidien des détenus, celui-ci ne connaît pas d’évolutions majeures durant l’après-guerre. Leur journée débute à 7 heures 30 et s’achève à 18 heures. Fouillés avant chaque mouvement, ils ont droit à une promenade quotidienne d’une heure et sont soumis à trois appels journaliers (7 heures, 13 heures et 19 heures) ainsi qu’à au moins un appel inopiné dans la journée. L’établissement rencontre toujours beaucoup de difficultés pour leur offrir du travail. Le service général parvient à en occuper une quinzaine et une vingtaine à peine travaillent pour un concessionnaire (confection de sacs de papier, tombola et brosses) à des tarifs relativement bas (500 à 600 francs par mois). Sur 136 détenus présents en 1950, seuls 36 travaillent. L’essentiel de l’effectif demeure donc pratiquement inoccupé toute la journée dans les chauffoirs. Quant aux femmes, dont la surveillance est désormais assurée par des surveillantes, elles sont toujours employées à la buanderie à des travaux de ravaudage de sacs ou au roulage de tubes de papier. En ce qui concerne l’enseignement, ce n’est qu’à partir de 1964 qu’un enseignant à la retraite bénévole organise trois séances hebdomadaires de deux heures de cours auxquelles les mineurs doivent obligatoirement assister. Ceux-ci, du fait de leur faible nombre, sont mélangés aux majeurs et ce n’est qu’en 1981 qu’un dortoir de six places leur est réservé.

La situation des établissements pénitentiaires après-guerre fait craindre à l’administration pénitentiaire la survenue d’épidémies. Pour y obvier, tous les détenus entrants subissent désormais à la prison de Colmar un dépistage obligatoire des maladies vénériennes et de la tuberculose. Celui-ci s’effectue à l’infirmerie de l’établissement où le médecin effectue deux visites hebdomadaires. Suite à la création d’un service social des prisons en 1945, les entrants s’entretiennent également deux fois par semaine avec une assistante sociale de la maison centrale d’Ensisheim qui reçoit d’autres détenus sur rendez-vous.

Si le régime carcéral ne connaît guère d’évolutions majeures, la distribution spatiale de l’établissement connaît des modifications importantes. La maison d’arrêt concentre en 1951 tous les bâtiments administratifs dans lesquels se situent les bureaux du surveillant-chef, du greffe et du premier surveillant, le mess, l’atelier anthropométrique, la sacristie et la chapelle. Ces bâtiments sont séparés des bâtiments de la détention proprement dits, c’est-à-dire de ceux situés dans l’ancienne maison de justice, par une « cour d’Administration ». La détention des hommes comprend deux quartiers distincts. Le quartier cellulaire qui contient 26 cellules (8 au rez-de-chaussée et 9 à chacun des deux étages). Et le quartier commun (surnommé également « vieux quartier ») qui contient au rez-de-chaussée 12 cellules, les magasins d’habillement et de vivres, 5 cabines de douches, 11 cellules et 2 ateliers (mécanique et menuiserie). Le premier étage comprend 6 réfectoires (dans lesquels sont installés des prévenus et des condamnés en journée) ainsi que l’infirmerie. Le deuxième étage comprend 9 dortoirs (entre 3 et 40 lits), 1 cellule, 1 atelier (brosses) et 2 salles d’école. Le chauffage central ne fonctionne que dans le quartier cellulaire et n’est étendu à l’ensemble de la détention qu’à partir de 1974. Quant aux cellules des deux quartiers, elles ne disposent ni d’eau courante, ni de WC. Ce n’est qu’à partir de 1972 que des WC et des lavabos sont installés dans toute la détention et que des douches sont aménagées à chaque étage du quartier cellulaire ainsi qu’à l’étage des dortoirs en commun. De ce fait, hormis les mineurs de moins de 18 ans, les prévenus et les détenus les plus dangereux qui sont isolés dans les 26 cellules du quartier cellulaire (qui sont toutes doublées ou triplées pour pouvoir les recevoir), les autres détenus sont mélangés dans les dortoirs qui n’assurent aucune séparation entre catégories :
« L’affectation des détenus dans les locaux en commun se fait un peu au hasard, tout au moins en considérant uniquement les commodités de l’organisation du travail, si bien que de jeunes délinquants primaires subissent la promiscuité de récidivistes. »

À partir de 1954, la guerre d’Algérie entraîne l’arrivée massive de détenus algériens dans les prisons françaises. À Colmar, cela se traduit par un brusque accroissement de la population pénale du fait de l’affluence « d’indigène nord-africains de catégorie A ». La contenance de l’établissement passe donc en 1959 de 126 à 152 places pour les hommes, puis à 172 l’année suivante. Cet afflux engendre des difficultés pour le personnel pénitentiaire pour encadrer ces détenus qui poursuivent une lutte très organisée à l’échelle nationale afin d’obtenir un régime de détention amélioré. À la suite d’importantes grèves de la faim survenues au mois de juin 1959, une circulaire du ministère de la Justice du 9 août 1959 leur octroie la possibilité d’être classés au régime spécial de catégorie « A ». Il leur permet, entre autres, de ne pas être astreints au travail, de pouvoir organiser un enseignement scolaire, de disposer de transistors, de recevoir ou d’acheter des livres et des journaux, d’être séparés des autres détenus, etc. À Colmar, leur isolement du reste de la détention vise également à empêcher que leur « influence ne s’étende pas au reste de la population pénale ». Car ces détenus très mobilisés et bien organisés entament des grèves de la faim à partir de 1960 pour obtenir une application effective de leur régime de détention.

Les détenus classés au régime spécial de catégorie « A » sont concentrés dans le quartier cellulaire qui est la partie la plus sécurisée de l’établissement. Ils bénéficient également d’une salle commune en journée où ils peuvent recevoir des cours de français organisés par d’autres détenus algériens. Mais parmi ces hommes figurent des partisans du Front de libération nationale (F.L.N.) et du Mouvement national algérien (M.N.A.), très hostiles entre eux et qu’il est nécessaire de séparer pour des raisons de sécurité. Au mois d’août 1958, le détenu Mohamed C. adresse ainsi un courrier au préfet du Haut-Rhin dans lequel il lui expose sa crainte d’être assassiné par un autre détenu algérien, Ahmed B. Une fouille générale est aussitôt ordonnée et un revolver 6.35 ainsi qu’un chargeur sont retrouvés dissimulés derrière le radiateur de la cellule d’Ahmed B. Pourtant, lors de son transfert de la maison d’arrêt de Mulhouse vers celle de Colmar, une balle de 6.35 figurait déjà à l’inventaire de son paquetage. Mais la présence de cette balle n’avait pas inquiété les agents et aucune fouille n’avait été ordonnée. De ce fait, Ahmed B. est parvenu à conserver sur lui pendant son transfert un révolver chargé qu’il s’apprêtait à utiliser contre un autre détenu. Cet incident constitue une illustration de la « routinisation » des fouilles effectuée par les surveillants, dont beaucoup redoutent en outre la résistance opposée par les détenus algériens :
« Le surveillant-chef explique […] qu’un détenu ait pu conserver une arme chargée par devers lui, malgré les fouilles effectuées, par un sentiment de pudibonderie très vif chez les nord-africains qui rend la tâche des surveillants difficile et aléatoire quant au résultat s’ils ne veulent heurter les croyances musulmanes. Je veux bien admettre que la nudité soit une malédiction d’Allah et qu’il convient, dans un but de haute politique, de démontrer aux indigènes que les Français ne sont pas des sauvages, mais il ne faut tout de même pas exagérer à l’extrême dans le sens de la tolérance, sinon nous nous faisons rouler à tous les coups, comme le prouve cet incident. »

Par la suite, la maison d’arrêt de Colmar est affectée par le mouvement de révolte carcérale que connaissent la plupart des prisons françaises au début des années 1970. Une mutinerie conduite par 60 détenus y éclate le 27 juillet 1974. Les mutins provoquent des départs d’incendies, gagnent les toits de l’établissement et 21 d’entre eux parviennent à s’évader. Sur ce nombre, 11 sont repris le jour-même, les autres peu de temps après. Cet incident s’est produit au moment de la promenade, visiblement à la suite d’une prise de clés :
« Les mutineries, les incendies et les évasions du 27 juillet 1974 ont démontré que lors des promenades les détenus peuvent sur un mot d’ordre et suivant l’état d’esprit général dans les prisons nationales (tout est lié à présent) se rendre maîtres d’une détention par prise de clés ou d’otages. Des mesures ont cependant été prises pour limiter ces dangers et canaliser les mouvements (grilles supplémentaires). […] La discipline générale est acceptable dans la mesure où une espèce de « modus vivendi » s’est établi entre personnel et détenus. Ceux-ci attendent impatiemment la réalisation des promesses (réforme pécule, indemnité chômage aux sortants, sécurité sociale, famille…). »
Suite à ces mutineries, le ministère de la Justice consent à des assouplissements à partir de 1975. À Colmar, cela se traduit par l’aménagement d’une cour de promenade pour permettre aux détenus scolarisés de pratiquer du volley-ball et des activités dirigées (c’est-à-dire culturelles) sont organisées dans la chapelle de l’établissement, notamment une séance de cinéma hebdomadaire et des séances de télévision les samedi, dimanche et lundi après-midi. Les détenus peuvent également disposer d’un transistor, l’extinction des feux est repoussée à 23 heures et le temps de promenade est doublé pour passer à deux heures par jour.

L’accroissement général de la population carcérale qui affecte les établissements pénitentiaires à partir des années 1970 s’intensifie au début des années 1980. Au 18 novembre 1983, la maison d’arrêt de Colmar héberge ainsi 174 détenus (111 prévenus, dont 30 appelants et 63 condamnés) pour un effectif théorique de 131 places. Leur nombre est si important que la commission de surveillance de la maison d’arrêt réclame officiellement l’arrêt des transferts de détenus appelants. Soixante-neuf détenus occupent le quartier cellulaire, 79 le quartier commun, 24 les « vieilles cellules » et à peine 2 le quartier de semi-liberté (pour 15 places). Suite à la désaffection du quartier des femmes en 1972, un quartier de semi-liberté a effectivement ouvert ses portes à la maison d’arrêt de Colmar au mois de février 1973.

Ce faible chiffre de semi-libres s’explique par la conjoncture économique et par les échecs rencontrés par les détenus placés en semi-liberté (évasion, alcoolisme, abandon d’emploi, etc.), comme en témoigne le juge de l’application des peines de Colmar :
« Nous avons fait un gros effort pour classer un certain nombre d’individus en semi-liberté ; là-aussi mes espoirs et mes demandes n’ont obtenu aucun résultat. Vu le manque de qualité de la population pénale, il n’est pas possible d’utiliser ce home à plein, tant qu’un éducateur n’y est pas affecté [le terme "home", qui veut dire "foyer" en anglais, est le terme employé par l'administration pénitentiaire après-guerre pour qualifier ses centres de semi-liberté]. Les semi-libres passent leurs soirées, leurs périodes d’interruption de travail, absolument entre eux, sans soutien moral ni contrôle. Je ne peux donc pas prendre le risque d’y placer un violent ou un caractériel qui risqueraient d’y provoquer des incidents graves. Les intéressés ne sont pas non plus amenés aux réflexions pouvant les conduire à une réinsertion sociale valable. »
Le centre de semi-liberté peut être effectivement difficilement contrôlé car l’effectif du personnel de l’établissement est trop limité. Son nombre théorique s’élève à un surveillant-chef dirigeant la maison d’arrêt, deux surveillants-chef, deux premiers surveillants et 30 surveillants, ce qui est considéré comme insuffisant au regard des besoins de l’établissement. La surpopulation carcérale provient essentiellement des transferts de détenus relevant de la cour d’appel et de la cour d’assises de Colmar et des difficultés rencontrées pour transférer ensuite les condamnés à des peines de plus d’un an de prison vers d’autres centres de détention, tous très encombrés. Par exemple, sur 96 condamnés présents à Colmar au 5 juin 1981, 57 purgent des peines de moins d’un an tandis que 38 purgent des peines de 1 à 5 ans et 1 à plus de 5 ans. En outre, le profil des détenus a évolué depuis le début des années 1970 avec l’arrivée de toxicomanes. Ainsi, parmi les 8 visiteurs de prison bénévoles qui officient dans l’établissement, 3 sont membres de l’association « Argile » qui s’occupe plus particulièrement des toxicomanes et de leur réinsertion. Leur prise en charge est assurée par le médecin de l’établissement qui donne deux consultations hebdomadaires, ainsi qu’une infirmière et un psychiatre qui assure deux vacations mensuelles de deux heures.

En ce qui concerne le régime de détention, il est marqué essentiellement par l’amélioration de l’offre culturelle en détention, notamment suite à la mise en place d’une politique culturelle élaborée entre les ministères de la Justice et de la Culture au début des années 1980. Une association éducative et sportive de la maison d’arrêt de Colmar est créée au mois de mars 1983 et elle anime un club de tennis de table, un club d’échec et un club de construction de maquettes. Les détenus participent à la gestion de ces clubs moyennant une cotisation de 10 francs. Ils bénéficient également de l’accès à une télévision couleur et à un magnétoscope qui leur permettent d’assister à deux séances de vidéo hebdomadaires. Enfin, au niveau du maintien des liens familiaux, les quatre parloirs familles de l’établissement sont rénovés en 1983 et ils ne disposent désormais plus de dispositif de séparation (hygiaphone).

Durant toute sa période d’activité, la maison d’arrêt de Colmar a soulevé de nombreuses difficultés pour l’administration pénitentiaire. Couvent reconverti en prison à la Révolution, cette adaptation très pragmatique a généré des problèmes pour gérer une détention installée dans un bâtiment qui n’a pas été conçu à l’origine pour cet usage. À cet inconvénient initial se sont superposées au fil des ans de multiples modifications imposées par les évolutions de la législation pénitentiaire qui ont conduit à littéralement « pousser les murs » de la prison. Enclavée dans un centre-ville historique, son emplacement dans un espace aussi contraint n’a jamais véritablement permis une application stricte des différents régimes carcéraux.

Ainsi, la question de son déménagement s’est-elle régulièrement posée. Au mois de mars 1962, face à son état de vétusté, la commission du plan d’équipement et de rénovation de la direction de l’administration pénitentiaire propose de la désaffecter. Puis à la fin des années 1970, le préfet du Haut-Rhin le préconise à son tour. Continuant sa lente dégradation malgré des travaux de rénovation et d’entretien conduits régulièrement, un rapport d’expertise judiciaire dénonce son insalubrité au mois d’octobre 2012. Les détenus y sont incarcérés à trois dans des cellules de 9,01 m², mal aérées, où les douches présentent un « état de vétusté avancé » et où le chauffage y est « très sommaire, voire inexistant ».

Peu de temps plus tard, trois détenus parviennent à s’évader en creusant un trou dans le plafond de leur cellule et rejoignent depuis les combles de la prison le palais de justice d’où ils prennent la fuite. Las, face au besoin de « places carcérales supplémentaires pour la région Grand Est » et face à l’état de surpopulation ainsi qu’au vieillissement des installations de la maison d’arrêt de Colmar, sa fermeture est programmée dans le cadre du plan immobilier pénitentiaire 15 000 places qui prévoit la livraison de 7 000 places de prison jusqu’en 2022 puis de 8 000 jusqu’en 2027. Fermée le 20 juin 2021, la maison d’arrêt de Colmar a été remplacée (ainsi que la maison d’arrêt de Mulhouse) par le centre pénitentiaire de Mulhouse-Lutterbach qui est entré en fonction le 10 novembre 2021.