Alors que l’évêque de Metz, Mgr Heintz, fut expulsé en août 1940, la Préfecture de Police allemande recherchait de vastes bâtiments pour y installer une plateforme rassemblant tous ses services. Elle jeta son dévolu sur le Grand Séminaire qui avait l’avantage d’être situé à proximité de la gare et des hôpitaux. Les séminaristes messins furent expulsés à Spire en septembre 1940 pour y poursuivre leurs études. L’ensemble de 190 ares fut dans la foulée octroyé à la Préfecture de Police. Schütz Polizei (Schupo), Commandement de la police urbaine, Direction de la police criminelle allemande (Kripo ou Kriminal Polizei) y prirent ainsi progressivement leurs quartiers. Un petit hôpital permettant d’examiner les détenus avant de les envoyer en camp fut également créé, tout comme une prison de police qui dépendait à la fois de la Kripo et de la Gestapo.
Les treize premiers détenus recensés arrivèrent à partir du 1er juin 1941. On sait très peu de choses sur eux. Il s’agissait par exemple de prostituées, de personnes n’ayant pas rempli leur contrat de travail, de passeurs de prisonniers de guerre ou encore d’individus ayant tenu des propos antiallemands ou ayant simplement écouté la BBC (British Broadcasting Corporation). La Préfecture de Police fut entièrement opérationnelle à partir de décembre 1941. Quelques mois plus tard, une partie des prisonniers fut aussi incarcérée dans une casemate du Fort de Queuleu. Le Grand Séminaire était une prison mixte avec vingt-trois cellules différentes, selon les individus et les maladies qu’ils pouvaient avoir. La durée d’internement y était très variable : de quelques heures à plusieurs mois. A priori, il y eu peu de brutalités commises sur les détenus, mais la surpopulation était telle que les problèmes d’hygiène et les maladies, comme la gale ou la tuberculose, s’y répandaient très facilement.
Entre décembre 1941 et novembre 1944, environ 6 000 détenus y auraient été enfermés, parmi lesquels au moins 800 femmes. Il s’agit cela dit d’une estimation basse réalisée à partir des numéros d’écrou. De nombreuses évasions eurent lieu dans la mesure où les travaux avaient été effectués dans la précipitation. Certains se seraient même enfuis en faisant sauter les barreaux à la petite cuillère. En septembre 1944, cinq prisonniers, dont un Mosellan, furent exécutés pour détention d’armes.
Le Grand Séminaire a depuis retrouvé sa vocation initiale. De cette époque sombre sont encore visibles le camouflage du crépi, des impacts de balles, quelques barreaux et un immense « T » en façade, masquant vraisemblablement l’aigle nazi. On parle souvent du Fort de Queuleu, mais le Grand Séminaire était la prison essentielle de la Gestapo jusqu’à la libération de Metz.