בתקופה שבין המלחמות חוותה טלשיי התפתחות מהירה. קו הרכבת שסלל בשנת 1932 היה בין הגורמים בצמיחתה של בירת ז’מייטיה, יחד עם פיתוח התעשייה ויוזמות חברתיות. הצמיחה הזריזה הזאת השאירה מאחוריה רשת בניינים בסגנון המודרניסטי בכל מחוז טלשיי. ארמון הבישופים, בית הספר למלאכות, התיאטרון העירוני ואחרים. אולי המבנה החשוב ביותר היא הגימנסיה על שם הבישוף מוטייוס ולנצ’וס, שהוקמה עוד בשנת 1918. היה זה הישג גדול עבור הקהילה והתלמידים שמצאו עד אז קורת גג בשני בניינים בלתי ראויים ללימודים, אף על פי שלימדו שם הסופרים וידונאס ושטריוס ראגנה.