Deep learning-based analysis of retinal OCT scans for detection of Alzheimer’s disease

Alterations in retinal layer thickness have been associated with neurodegenerative diseases such as Alzheimer’s disease (AD). These structural changes can be measured using a noninvasive imaging technology called Optical Coherence Tomography (OCT). Previous research has mostly focused on the statistical associations between segmented retinal layer thickness and AD derived from OCT or OCTA devices. Unlike conventional medical image classification tasks, early detection is more challenging than diagnosis because imaging precedes clinical diagnosis by several years. Deep learning (DL), particularly through convolutional neural networks (CNNs) and transfer learning, has demonstrated strong performance in image-based disease detection tasks. However, the application of DL directly on unsegmented raw OCT B-scan images for early AD detection remains underexplored. Therefore, in this thesis, we address this research gap by proposing a deep learning-based approach that uses raw OCT images for early Alzheimer’s disease detection. All related studies in the literature have heavily relied on private and in-situ cohorts that lack interoperability. In contrast, the UK Biobank (2022) offers a unique resource for investigating the associations between retinal structure and systemic health, comprising over 85,000 OCT scans linked to cognitive and health-related data. Between the initial scan period (2010–2015) and July 2023, 539 participants in the dataset were diagnosed with AD. Although the UK Biobank is somewhat limited by the absence of OCTA scans, we utilized this dataset to detect early AD using OCT scans. After a rigorous data-exclusion process, this study used a targeted 4-year window, selecting participants diagnosed with AD within 4 years of their baseline assessments. The AD group was matched by age, sex, eye, and instance with a randomly selected balanced Healthy Control group (N = 30). We first evaluated the predictive value of isolated 2D B-scans using pretrained deep learning architectures. In these tests, the ResNet-34 model achieved a mean AUC of 0.624 ± 0.060. Saliency map analysis of these B-scans highlighted the critical importance of the central macular region, whereas peripheral areas showed negligible contribution to the model’s decision. To overcome the limitations of isolated B-scans and leverage 3D information, we generated a 3D-informed en-face thickness projection map from the OCT B-scans. This pipeline was optimized to focus on the diagnostically relevant 3 mm inner macular region, effectively filtering out peripheral noise. Our study of thickness maps identified the Ganglion Cell Layer (GCL) as the most significant indicator of preclinical AD. The VGG-19 model, trained on GCL thickness maps with a year-weighted loss function, achieved a peak mean AUC of 0.750 ± 0.037. Notably, the traditional clinical benchmark, the Retinal Nerve Fiber Layer (RNFL), exhibited negligible predictive value in this pre-symptomatic cohort. We also developed a Multi-Modal Soft-Voting Ensemble model to further increase predictive accuracy and emulate clinical decision-making. This model integrates structural insights from B-scans and GCIPL thickness maps with clinical and demographic data. The ensemble approach achieved the highest mean AUC of 0.85 and significantly outperformed individual modalities. Furthermore, an ablation study using only image modalities (B-scans and thickness maps) yielded an AUC of 0.84. This result highlights the strong complementary value of combined structural data. Longitudinal sensitivity analysis also established a “diagnostic horizon” for retinal biomarkers. We observed that predictive accuracy is highest between 4 and 8 years prior to clinical diagnosis. However, these signals progressively converge toward baseline by the 12-year mark. When benchmarked against the current literature, our framework outperformed existing baselines for the diagnosis of symptomatic Mild Cognitive Impairment (MCI). This demonstrates its robustness in the more challenging task of preclinical prediction. Consequently, it establishes a viable pathway for integrating retinal imaging into the early diagnostic pipeline for Alzheimer’s disease.

Ağ tabakası kalınlığındaki değişimler, Alzheimer hastalığı (AH) gibi nörodejeneratif hastalıklarla ilişkilendirilmiştir. Bu yapısal değişiklikler, Optik Koherens Tomografi (OCT) adı verilen girişimsel olmayan bir görüntüleme teknolojisi kullanılarak ölçülebilmektedir. Önceki araştırmalar çoğunlukla, OCT veya OCTA cihazlarından elde edilen bölütlenmiş ağ tabakası kalınlığı ile AH arasındaki istatistiksel ilişkilere odaklanmıştır. Geleneksel tıbbi görüntü sınıflandırma görevlerinin aksine, görüntülemenin klinik tanıdan birkaç yıl önce gerçekleşmesi nedeniyle erken kestirim (tespit), tanı koymaktan daha zorludur. Derin öğrenme (DÖ), özellikle evrişimli sinir ağları ve aktarım öğrenme yöntemleri aracılığıyla, görüntü tabanlı hastalık tespiti görevlerinde güçlü bir performans sergilemiştir. Ancak, erken AH tespiti için DÖ’nün doğrudan bölütlenmemiş ham OKT B-tarama görüntüleri üzerinde uygulanması henüz yeterince araştırılmamıştır. Bu nedenle, bu tezde, erken Alzheimer hastalığı tespiti için ham OCT görüntülerini kullanan derin öğrenme tabanlı bir yaklaşım önerilerek bu araştırma boşluğu ele alınmaktadır. Literatürdeki ilgili tüm çalışmalar büyük ölçüde birlikte çalışabilirlikten yoksun olan özel ve kurumsal kohortlara dayanmaktadır. Buna karşılık, UK Biobank (2022), ağ tabakası yapısı ile sistemik sağlık arasındaki ilişkileri araştırmak için benzersiz bir kaynak sunmakta olup, bilişsel ve sağlıkla ilgili verilerle bağlantılı 85.000’den fazla OCT taramasını içermektedir. İlk tarama dönemi (2010–2015) ile Temmuz 2023 arasında veri kümesindeki 539 katılımcıya AH tanısı konmuştur. UK Biobank veri seti OCTA taramalarının eksikliği nedeniyle bir miktar sınırlı olsa da, bu tezde erken AH tespiti amacıyla OCT taramaları kullanılmıştır. Titiz bir veri dışlama sürecinin ardından, bu çalışma temel değerlendirmeden sonraki 4 yıl içinde AH tanısı alan katılımcıları seçerek hedeflenmiş 4 yıllık bir zaman penceresi kullanmıştır. AH grubu; yaş, cinsiyet, göz ve örneklem açısından rastgele seçilmiş dengeli bir Sağlıklı Kontrol grubu (N = 30) ile eşleştirilmiştir. İlk olarak, önceden eğitilmiş derin öğrenme mimarileri kullanılarak yalıtılmış 2B B-taramalarının kestirimsel değeri değerlendirilmiştir. Bu testlerde, ResNet-34 modeli 0.624 ± 0.060 ortalama AUC değeri elde etmiştir. Belirginlik haritası analizi, merkezi maküler bölgenin kritik önemini ortaya koyarken, çevresel alanların model kararına ihmal edilebilir düzeyde katkı sağladığını göstermiştir. Yalıtılmış B-taramalarının sınırlamalarını aşmak ve 3B bilgiden yararlanmak amacıyla, OCT B-taramalarından 3B tabanlı yüzeysel (en-face) kalınlık izdüşüm haritaları oluşturulmuştur. Bu işlem hattı, çevresel gürültüyü filtreleyerek tanısal açıdan önemli olan 3 mm’lik iç maküler bölgeye odaklanacak şekilde optimize edilmiştir. Kalınlık haritaları üzerinde yapılan analizler, Gangliyon Hücre Tabakasını (GHT) klinik öncesi AH’nin en önemli göstergesi olarak ortaya koymuştur. Yıl ağırlıklı bir kayıp fonksiyonu kullanılarak GHT kalınlık haritaları üzerinde eğitilen VGG-19 modeli, 0.750 ± 0.037 ile en yüksek ortalama AUC değerine ulaşmıştır. Dikkat çekici olarak, geleneksel klinik ölçütlerden biri olan Retina Sinir Lifi Tabakası (RNFL), bu belirti öncesi kohortta ihmal edilebilir düzeyde kestirimsel değer göstermiştir. Kestirim doğruluğunu artırmak ve klinik karar verme sürecini taklit etmek amacıyla Çok Kipli Yumuşak Oylamalı Topluluk modeli geliştirilmiştir. Bu model, B-taramalarından ve GHT-İç Pleksiform Tabaka (GCIPL) kalınlık haritalarından elde edilen yapısal bilgileri klinik ve demografik verilerle birleştirmektedir. Bu topluluk yaklaşımı 0.85 ile en yüksek ortalama AUC değerine ulaşmış ve bireysel modelleri anlamlı şekilde geride bırakmıştır. Ayrıca, yalnızca görüntü kipliklerini (B-taramaları ve kalınlık haritaları) kullanan eksiltme çalışması 0.84 AUC değeri elde etmiştir. Bu sonuç, birleşik yapısal verilerin güçlü tamamlayıcı değerini göstermektedir. Boylamsal duyarlılık analizi, retinal biyobelirteçler için bir “tanı ufku” da ortaya koymuştur. Kestirim doğruluğunun klinik tanıdan 4 ila 8 yıl önce en yüksek seviyeye ulaştığı gözlemlenmiştir. Ancak bu sinyaller, 12. yıla doğru kademeli olarak taban seviyesine yaklaşmaktadır. Mevcut literatürle karşılaştırıldığında, önerilen yöntem semptomatik Hafif Bilişsel Bozukluk (MCI) tanısında mevcut yöntemlerden daha iyi performans göstermiştir. Bu durum, modelin klinik öncesi kestirim gibi daha zorlu bir görevde de güçlü ve güvenilir olduğunu ortaya koymaktadır. Sonuç olarak bu çalışma, retinal görüntülemenin Alzheimer hastalığının erken tanı sürecine entegre edilmesi için uygulanabilir bir yaklaşım sunmaktadır.