Σαν σήμερα την 30η Μαρτίου 1926 υπογράφτηκε στη Λέσχη των Κωνσταντινοπουλιτών το πρωτόκολλο για την ίδρυση του μεγαλύτερου συλλόγου της Ελλάδας του Πανθεσσαλονίκειου Αθλητικού Ομίλου Κωνσταντινουπολιτών.
Ήδη από το 1877 προϋπήρχε ο Κωνσταντινοπουλίτικος αθλητικός και πολιτιστικός σύλλογος με την ονομασία «Ερμής» ο οποίος είχε δημιουργηθεί από τους Έλληνες που ζούσαν στην Πόλη και συγκεκριμένα στο Πέρα, όπου βρίσκονταν οι πρεσβείες των ξένων χωρών κατά την οθωμανική αυτοκρατορία.
Η υπογραφή του πρωτοκόλλου της ομάδας του ΠΑΟΚ στις 30 Μαρτίου του 1926 αποτέλεσε ουσιαστικά την αρχή για την ίδρυση του συλλόγου, η οποία επιταχύνθηκε μέσα στις επόμενες εβδομάδες καθώς στις 5 Απριλίου ακολούθησε η πρώτη γενική συνέλευση ενώ στις 20 Απριλίου του ίδιου έτους εγκρίθηκε η ίδρυση της ομάδας από το Πρωτοδικείο της Θεσσαλονίκης.