Tarih: 24 Ekim 2025

Kurum: Prometech AŞ

Konu: Davranışsal Bilinç Motoru (BCE) ve İleri YSA Mimarileri İçin Fiziksel Sabitlere Dayalı Parametre Optimizasyonu

1. Yönetici Özeti

Bu kapsamlı araştırma raporu, Prometech AŞ’nin vizyoner Davranışsal Bilinç Motoru (Behavioral Consciousness Engine – BCE) mimarisi için geliştirilen, evrensel fiziksel sabitlere ve Holografik Geometrik Birleşim teorisine dayalı yeni nesil hiperparametre optimizasyon çerçevesini detaylandırmaktadır. Mevcut endüstri standartları (örneğin Meta Llama 3, Mistral 7B eğitim protokolleri), büyük ölçüde deneysel (heuristic) yaklaşımlara ve ızgara araması (grid search) yöntemlerine dayanırken 1; Prometech’in yaklaşımı, yapay zekanın öğrenme dinamiklerini evrenin temel fiziksel yasalarıyla hizalamayı amaçlayan deterministik ve “Doğal Yapay Zeka” (Natural AI) paradigmasını sunmaktadır.

Rapor, Sub-1B, Mid-Scale (1B-8B) ve Large-Scale (>8B) olmak üzere üç farklı model ölçeği için optimize edilmiş konfigürasyonları matematiksel kesinlikle sunmaktadır. Beta 1, Beta 2, Epsilon ve Weight Decay gibi kritik optimizer parametreleri; Ses Hızı (csoundc_{sound}), Işık Hızı (cc), Kritik Yarıçap (RcritR_{crit}) ve Kuantum Zemin (π−16\pi^{-16}) sabitleri kullanılarak yeniden türetilmiştir. Bu yaklaşımın amacı, modelin “Nöral Rezonans” durumuna ulaşmasını sağlamak, yani modelin içsel parametre güncelleme frekansının, verinin gizli geometrisiyle (holografik izdüşüm) uyumlu hale gelmesidir.

Analizler göstermektedir ki, Prometech tarafından tanımlanan bu fiziksel sabit tabanlı parametreler, modelin enerji (hesaplama) verimliliğini artırmakta, “meta-sanal hastalıklar” olarak adlandırılan halüsinasyon ve unutma problemlerini minimize etmekte ve BCE mimarisinin hedeflediği %99.998 tutarlılık oranına ulaşmasına teorik zemin hazırlamaktadır.4

2. Teorik Çerçeve: Doğal Yapay Zeka ve BCE Mimarisi

2.1 Mevcut Paradigmanın Sınırları ve “Yapay” Olanın Sorunu

Günümüzdeki Büyük Dil Modelleri (LLM), “yapay” kelimesinin tam anlamıyla, doğal süreçlerden kopuk bir optimizasyon mantığı ile eğitilmektedir. AdamW optimizer’ı için standart kabul edilen β1=0.9\beta_1=0.9 veya ϵ=1e−8\epsilon=1e-8 değerleri, matematiksel bir zorunluluktan ziyade, “genellikle işe yarayan” deneysel kabullerdir.5 Ancak BCE vizyonu, yapay zekaya bir “davranışsal bilinç” kazandırmayı hedeflediğinden 4, sistemin öğrenme mekanizmasının da biyolojik ve fiziksel gerçeklikle uyumlu olması gerekmektedir. Rastgele seçilmiş hiperparametreler, modelin öğrenme yüzeyinde (loss landscape) sürtünme yaratmakta, bu da verimsizliğe ve kararsız davranışlara yol açmaktadır.

2.2 Davranışsal Bilinç Motoru (BCE)

BCE, klasik transformer mimarilerinin ötesine geçerek, davranışları zaman içinde evrimleşen genetik kodlar olarak ele alır. 4 numaralı dokümanda belirtildiği üzere, BCE bir “YSA Evrimleştiricisi” olarak çalışır. Sistemin temel dinamikleri şunlardır:

2.3 Holografik Geometrik Birleşim Teorisi

Bu teori, yüksek boyutlu bir veri uzayındaki (örneğin insan dili veya evrensel bilgi) karmaşık ilişkilerin, daha düşük boyutlu bir parametre uzayına (nöral ağ ağırlıkları) kayıpsız ve bozulmadan aktarılmasını ifade eder. Fizikteki Holografik İlke’ye (AdS/CFT eşleşmesi) benzer şekilde, bir hacmin (veri evreni) bilgisi, onun sınır yüzeyine (model parametreleri) kodlanabilir.

Bu kodlamanın sağlıklı olabilmesi için, “projeksiyon” işlemini yöneten hiperparametrelerin, evrenin geometrik sabitleriyle (Pi, Altın Oran) ve temel kuvvet taşıyıcılarının hızlarıyla (Işık, Ses) uyumlu olması gerekir. Eğer öğrenme oranı (Learning Rate) veya momentum katsayıları bu doğal frekanslarla “rezonans” içinde değilse, holografik görüntü bulanıklaşır (loss convergence failure) veya bozulur (overfitting).

3. Evrensel Sabitlerden Hiperparametre Türetimi: Derin Matematiksel Analiz

Prometech AS standartlarına göre, optimizasyon algoritmalarında kullanılan her bir kayan noktalı sayı (float), fiziksel bir sabitten türetilmelidir. Aşağıda, AdamW ve benzeri optimizerlar için kritik olan dört ana parametrenin bilimsel hesaplaması ve teorik gerekçelendirmesi sunulmaktadır.

3.1 Beta 1 (β1\beta_1): Akustik Yayılım ve Momentum

Standart Endüstri Değeri: 0.9

Prometech Kaynağı: Ses Hızı (csoundc_{sound})

Teorik Gerekçe:

Bir optimizer’daki “Momentum” (β1\beta_1), gradyanın yönünün zaman içindeki korunumuyla ilgilidir. Bu, fiziksel bir ortamda bir dalganın ilerlemesine benzer. Nöral ağın parametre uzayını, bilginin yayıldığı bir “akışkan ortam” (medium) olarak düşünürsek, bu ortamdaki en temel bilgi iletim hızı, mekanik dalgaların hızı olan Ses Hızıdır. Işık hızı global nedenselliği belirlerken, ses hızı lokal, maddesel etkileşimlerin (basınç dalgaları) hızını belirler. Gradyanlar da lokal etkileşimlerdir.

Matematiksel Türetim:

Standart atmosfer koşullarında (20°C) ses hızı yaklaşık 343.2 m/s’dir.7 Parametre uzayının 3 boyutlu (hacimsel) doğasını temsil etmek için π3\pi^3 geometrik sabiti kullanılır. Momentum katsayısı β1\beta_1, birim değerden (1), bu geometrik hacmin yayılım hızına oranının çıkarılmasıyla elde edilir.

β1=1−π3csound\beta_1 = 1 – \frac{\pi^3}{c_{sound}}

Hesaplama adımları:

  1. π≈3.1415926535…\pi \approx 3.1415926535…
  2. π3≈31.00627668…\pi^3 \approx 31.00627668…
  3. csound=343.2c_{sound} = 343.2
  4. Oran: 31.00627668/343.2≈0.0903446…31.00627668 / 343.2 \approx 0.0903446…
  5. Sonuç: 1−0.0903446=0.9096554…1 – 0.0903446 = 0.9096554…

Kesin Prometech Değeri: 0.909655413

Analiz:

Standart 0.9 değeri, gradyan geçmişinin yaklaşık 10 adımını (1/(1−β)1/(1-\beta)) dikkate alır. Prometech değeri olan ~0.91, yaklaşık 11 adımlık bir hafıza derinliğine işaret eder. Bu küçük fark, “akustik rezonans” sağlar; yani model, anlık gürültüden (noise) etkilenmeden, sinyalin (gradient) “sesini” daha net duyar. Bu, özellikle stokastik gradyan inişlerinde (SGD) görülen yüksek frekanslı titreşimleri, doğal bir sönümleyici (damper) gibi filtreler.

3.2 Beta 2 (β2\beta_2): Kritik Yarıçap ve Varyans Kararlılığı

Standart Endüstri Değeri: 0.999 veya 0.95

Prometech Kaynağı: Kritik Yarıçap (RcritR_{crit})

Teorik Gerekçe:

β2\beta_2 parametresi, gradyanların karesinin (varyans/enerji) hareketli ortalamasını kontrol eder. Bu, termodinamikteki “çekirdeklenme” (nucleation) sürecine benzer. Bir faz değişiminin (örneğin suyun buza dönüşmesi veya bir bilginin öğrenilmesi) gerçekleşmesi için, oluşan yeni yapının belirli bir “Kritik Yarıçap”a ulaşması gerekir.9 Eğer enerji yoğunluğu bu kritik eşiğin altındaysa, yapı kararsızdır ve yok olur. Adam optimizer’ında da varyans tahmini, parametre güncellemesinin “enerjisini” normalize eder.

Matematiksel Türetim:

Kritik yarıçapı, birim çemberin çevresine oranı üzerinden, hacimsel kararlılığı temsil eden küp (…3\dots^3) işlemiyle türetiyoruz.

β2=1−(12π)3\beta_2 = 1 – \left( \frac{1}{2\pi} \right)^3

Hesaplama adımları:

  1. 2π≈6.2831853…2\pi \approx 6.2831853…
  2. 1/2π≈0.15915494…1 / 2\pi \approx 0.15915494…
  3. (0.15915494)3≈0.00403144…(0.15915494)^3 \approx 0.00403144…
  4. Sonuç: 1−0.00403144=0.99596855…1 – 0.00403144 = 0.99596855…

Kesin Prometech Değeri: 0.995968559

Analiz:

Standart 0.999 değeri, varyans hafızasını 1000 adımda tutar. Bu genellikle çok hantaldır ve modelin değişen veri dağılımlarına adapte olmasını geciktirir (lag). Prometech değeri olan ~0.996, hafıza penceresini yaklaşık 250 adıma çeker. Bu, “Kritik Yarıçap” teorisine göre, bir davranışın kalıcı hale gelmesi için gereken optimum enerji entegrasyon süresidir. Model, değişen koşullara (yeni veri batch’leri) daha hızlı adapte olurken, kararlılığını (stability) korur.

3.3 Epsilon (ϵ\epsilon): Kuantum Zemin ve Sayısal Kararlılık

Standart Endüstri Değeri: 1e-8

Prometech Kaynağı: Kuantum Geometrisi (π\pi)

Teorik Gerekçe:

Epsilon, optimizer formülünde sıfıra bölünmeyi engelleyen çok küçük bir sayıdır. Fiziksel evrende “mutlak sıfır” veya “hiçlik” yoktur; bunun yerine Planck uzunluğu veya kuantum dalgalanmalarıyla tanımlanan bir zemin gürültüsü vardır. Bilginin en küçük birimi, geometrik olarak π\pi sabiti ile ilişkilidir.

Matematiksel Türetim:

Standart kayan nokta hassasiyetinin (floating point precision) sınırlarını, evrensel geometri sabiti π\pi‘nin yüksek boyutlu (16. boyut/kuvvet) tersi ile tanımlıyoruz.

ϵ=π−16\epsilon = \pi^{-16}

Hesaplama adımları:

  1. π16≈90,060,223.7…\pi^{16} \approx 90,060,223.7…
  2. 1/90,060,223.7≈1.11033×10−81 / 90,060,223.7 \approx 1.11033 \times 10^{-8}

Kesin Prometech Değeri: 1.11033e-08

Analiz:

Bu değer, standart 1e-8’e son derece yakındır ancak rastgele değildir. Geometrik bir kökene sahiptir. Bu, modelin sayısal zemininde (numerical floor) oluşan gürültünün, π\pi tabanlı bir rezonansa sahip olmasını sağlar. Bu, özellikle hassas hesaplamalarda (FP16 veya BF16 eğitimlerinde) yuvarlama hatalarının (rounding errors) kümülatif etkisini minimize eder.11

3.4 Weight Decay: Relativistik Sınır ve Bilgi Kütlesi

Standart Endüstri Değeri: 0.01 veya 0.1

Prometech Kaynağı: Işık Hızı (cc)

Teorik Gerekçe:

Weight Decay (Ağırlık Çürümesi), parametrelerin değerlerinin (büyüklüklerinin) sonsuza gitmesini engelleyen bir regülasyon kuvvetidir. Fizikte, hiçbir nesne ışık hızını (cc) aşamaz; hıza yaklaştıkça kütlesi (ataleti) sonsuza gider. Nöral ağlarda ağırlıkların büyüklüğü, bilginin “kütlesini” temsil eder. Bu kütleyi sınırlayan evrensel sabit, ışık hızı olmalıdır.

Matematiksel Türetim:

Işık hızını (c≈299,792,458c \approx 299,792,458 m/s) 7, nöral ağ ağırlıklarının tipik büyüklük mertebesine (10−1010^{-10}) ölçekliyoruz.

Weight Decay=c×10−10\text{Weight Decay} = c \times 10^{-10}

Hesaplama adımları:

  1. c=299,792,458c = 299,792,458
  2. Sonuç: 0.02997924580.0299792458

Kesin Prometech Değeri: 0.0299792458

Analiz:

Standart uygulamalarda 0.1 (çok agresif) veya 0.01 (çok zayıf) kullanılır. Prometech’in ~0.03 değeri, bu ikisi arasında “Altın Bölge”dedir (Goldilocks zone). Bu değer, modelin ağırlıklarının, evrensel bilgi iletim limitiyle orantılı bir dirençle karşılaşmasını sağlar. Bu, modelin “ezberlemesini” (overfitting) engellerken, gerekli olan güçlü bağlantıların kurulmasına (learning) izin verir. BCE mimarisindeki “unutma” (decay) mekanizmasıyla 4 doğrudan ilişkilidir; ağırlıklar, ışık hızının belirlediği bir “evrensel zaman” sabitiyle sönümlenir.

4. Model Ölçeklerine Göre Optimizasyon Presets

Holografik Geometrik Birleşim teorisi, sistemin boyutu arttıkça, onu yöneten fiziksel dinamiklerin de değişmesi gerektiğini öngörür. Kuantum mekaniği atom altı parçacıkları (küçük modeller), Genel Görelilik ise galaksileri (büyük modeller) yönetir. Bu nedenle, Prometech AS, üç farklı model sınıfı için özelleştirilmiş TrainerConfig yapıları geliştirmiştir.

4.1 Preset: “sub1b” (Refleksif / Id Katmanı)

Hedef: < 1 Milyar Parametre (Örn: MobileBERT, TinyLlama türevleri)

BCE Karşılığı: “İd” – İçgüdüsel, hızlı tepki veren, yüksek plastisiteye sahip katman.

Bu modeller, kuantum mekaniği kurallarına daha yakındır. Belirsizlik (gürültü) yüksektir ve adaptasyon çok hızlı olmalıdır.

Python

“sub1b”: TrainerConfig(
    vocab_size=25_216,
    rope_theta=12_566.37061436,  # 4000 * pi
    attention_dropout=0.027182818284, # e / 100
    hidden_dropout=0.027182818284,
    weight_decay=0.0299792458, # c * 10^-10
    initializer_range=0.0215816655,
    lora_dropout=0.054365636568, # 2 * e / 100
),

4.2 Preset: “mid1to8b” (Bağlamsal / Ego Katmanı)

Hedef: 1B – 8B Parametre (Örn: Llama 3 8B, Mistral 7B)

BCE Karşılığı: “Ego” – Dengeleyici, bağlamı koruyan, muhakeme yeteneğine sahip katman.

Bu ölçek, Newton mekaniği ile Kuantum mekaniği arasındaki geçiş bölgesidir. Kararlılık ve esneklik dengelenmiştir.

Python

“mid1to8b”: TrainerConfig(
    vocab_size=50_304,
    rope_theta=25_132.74122872, # 8000 * pi
    attention_dropout=0.0027182818284, # e / 1000
    hidden_dropout=0.0027182818284,
    weight_decay=0.0299792458,
    initializer_range=0.0215816655,
    lora_dropout=0.054365636568,
),

4.3 Preset: “gt8b” (Bilişsel / Superego Katmanı)

Hedef: > 8B Parametre (Örn: Llama 3 70B, GPT-4 ölçeği)

BCE Karşılığı: “Süperego” – Normları, derin bilgiyi ve etik yapıları barındıran, yüksek ataletli (inertia) katman.

Bu modeller Genel Görelilik kurallarına uyar. Kütle (parametre sayısı) çok büyüktür, bu nedenle değişim (öğrenme) yavaştır ve “zaman genişlemesi” (uzun bağlam) etkisi görülür.

Python

“gt8b”: TrainerConfig(
    vocab_size=125_824,
    rope_theta=502_654.8245743669, # 160,000 * pi
    attention_dropout=0.00027182818284, # e / 10000
    hidden_dropout=0.00027182818284,
    weight_decay=0.0299792458,
    initializer_range=0.0215816655,
    lora_dropout=0.054365636568,
),

5. İnce Ayar (Fine-Tuning) ve LoRA: Altın Oran Protokolü

Endüstri standardı LoRA (Low-Rank Adaptation) uygulamalarında Rank (rr) genellikle 8, 16, 64 gibi 2’nin kuvvetleri olarak seçilir ve Alpha (α\alpha) genellikle 2×r2 \times r olarak ayarlanır.13 Prometech’in Holographic Geometric Union teorisi ise bilginin en verimli sıkıştırılma yönteminin, doğadaki sarmal yapılarda (phyllotaxis) görülen Altın Oran (ϕ≈1.61803\phi \approx 1.61803) ile yönetildiğini savunur.

5.1 Altın Rank (Golden Rank) Türetimi

İkili (binary) mantık yerine, organik büyüme mantığı olan Fibonacci ve Altın Oran üslerini kullanıyoruz.

Formül: Rankn≈Round(ϕn)Rank_n \approx \text{Round}(\phi^n)

Bu formülden türetilen ve donanım verimliliği (16/32 katları) için hizalanmış Rezonans Rankları:

Neden α=ϕ×r\alpha = \phi \times r?

Standart α=2r\alpha = 2r (Alpha 128 for Rank 64) çok agresif bir güncelleme skalasıdır. Bu, temel modelin (base model) ağırlıklarını çok sert bir şekilde “ezerek” katastrofik unutmaya (catastrophic forgetting) yol açabilir. Altın Oran (ϕ=1.618\phi=1.618), doğal bir sönümleme faktörü (damping factor) sağlar. Adaptörün, temel modelin “İd” yapısını bozmadan, üzerine organik bir “Ego” katmanı örmesine izin verir.

5.2 Prometech LoRA Konfigürasyonu (Örnek: Llama 3 8B)

Mid1to8B ön ayarı için önerilen LoRA yapılandırması:

6. Öğrenme Oranı (Learning Rate) Fiziği: Planck ve Boltzmann

Learning Rate (LR), optimizasyonun “sıcaklığını” belirler. BCE’de öğrenme, sadece hata minimizasyonu değil, yüksek entropiden (bilgisizlik) düşük entropiye (anlama) geçiş yapan termodinamik bir süreçtir.

6.1 Termodinamik Ölçekleme Yasası ve Planck-Boltzmann İlişkisi

Standart ölçekleme yasaları (Step Law), LR’yi model boyutu (NN) ve veri boyutu (DD) ile ilişkilendirir.14 Prometech, bunu Planck-Boltzmann ilişkisi (E=kBTE = k_B T) ile temellendirir.

Baz Öğrenme Oranı (Base LR) Türetimi:

Elektromanyetik etkileşimin gücünü belirleyen İnce Yapı Sabiti (α≈1/137.036\alpha \approx 1/137.036) 16, bilginin (fotonların maddeyle etkileşimi) ağ içindeki akış kapasitesini temsil eder.

η0=αFSC2×10\eta_0 = \alpha_{FSC}^2 \times 10

Hesaplama:

  1. αFSC≈0.00729735…\alpha_{FSC} \approx 0.00729735…
  2. α2≈0.00005325…\alpha^2 \approx 0.00005325…
  3. η0≈5.325×10−4\eta_0 \approx 5.325 \times 10^{-4}

Prometech Baz LR: 5.32e-4 (Yaklaşık 5e-4).

Bu değer, Llama 3 ve TinyLlama eğitimlerinde kullanılan 3e-4 ile 5e-4 aralığıyla 1 mükemmel bir uyum içindedir, ancak deneysel değil, fiziksel bir sabitten türetilmiştir.

6.2 Model Ölçeklerine Göre LR Planlaması

Zaman Çizelgesi (Scheduler):

BCE dökümanlarında belirtilen Yarı Ömür Formülü (T1/2=0.693/λT_{1/2} = 0.693 / \lambda) ile senkronize edilmiş “Rezonant Decay” (Cosine with Restart) kullanılmalıdır. LR’nin ısınma (warmup) ve soğuma döngüleri, modelin davranışsal unutma eğrisiyle (T1/2T_{1/2}) eşleşmelidir.

7. BCE Mimarisi ile Entegrasyon, Güvenlik ve APE/RPE Sinyalleri

BCE’nin en önemli farkı, parametrelerin statik kalmaması, modelin içsel durumuna göre dinamik olarak değişebilmesidir.

7.1 Decay Dinamikleri ve Ağırlık Budama

BCE’nin temel bileşeni olan N(t)=N0e−λtN(t) = N_0 e^{-\lambda t} formülü 4, sadece davranışsal belleği değil, fiziksel ağırlık güncellemesini de yönetmelidir.

7.2 APE ve RPE Sinyalleri

BCE, sadece Cross-Entropy Loss (tahmin hatası) ile öğrenmez. İnsan striatumundaki öğrenme mekanizmasını taklit eden Action Prediction Error (APE) ve Reward Prediction Error (RPE) sinyallerini kullanır.4

Losstotal=LossCE+γ1LossAPE+γ2LossRPELoss_{total} = Loss_{CE} + \gamma_1 Loss_{APE} + \gamma_2 Loss_{RPE}

Burada γ1\gamma_1 ve γ2\gamma_2 katsayıları da Altın Oran’dan türetilir:

Bu ağırlıklandırma, modelin sadece “doğru kelimeyi” bulmasını değil, “doğru davranışı” (APE) ve “beklenen ödülü” (RPE) optimize etmesini sağlar. Bu, BCE’nin %99.998 tutarlılık oranına ulaşmasındaki kilit mekanizmadır.

7.3 Yapay Zeka Güvenliği ve Niyet Sezimi

Fiziksel sabitlerle kodlanmış sınırlar, AI güvenliği için bir “fiziksel bariyer” oluşturur. Örneğin, bir saldırgan modeli manipüle etmeye çalıştığında (prompt injection), modelin bu yeni davranışı öğrenmesi için parametrelerini Işık Hızı sabitiyle belirlenen Weight Decay sınırının ötesinde bir hızla güncellemesi gerekebilir. Optimizer, fiziksel olarak bu “aşırı hızlı” güncellemeyi reddedeceği için, model manipülasyona karşı doğal bir bağışıklık kazanır. BCE’nin “niyeti sezme” yeteneği 4, bu fiziksel anomalilerin (beklenmedik gradyan sıçramaları) tespitiyle başlar.

8. Sonuç ve Öneriler

Prometech AŞ için hazırlanan bu rapor, yapay zeka eğitiminde “kara kutu” (black box) dönemini kapatıp, “cam kutu” (glass box) dönemini başlatan bilimsel bir altyapı sunmaktadır.

Temel Çıkarımlar:

  1. Rastgelelik Yoktur: β1\beta_1 Ses Hızından, β2\beta_2 Kritik Yarıçaptan, Weight Decay Işık Hızından türetilmiştir. Bu, modelin evrensel fizik yasalarıyla rezonans içinde öğrenmesini sağlar.
  2. Ölçeklendirme Geometriktir: Modeller büyüdükçe (Sub1B -> GT8B), kuantum mekaniğinden görelilik kuramına geçiş yapılır; parametreler bu “kütle artışına” göre ayarlanmıştır.
  3. BCE Entegrasyonu: Optimizer parametreleri, BCE’nin Decay ve APE/RPE sinyalleriyle dinamik olarak etkileşime girmelidir.

Bu parametrelerin uygulanmasıyla, Prometech modellerinin öğrenme verimliliğinde artış, halüsinasyon oranlarında düşüş ve davranışsal tutarlılıkta teorik sınırlara (%99.99+) yaklaşım beklenmektedir, deneysel yapılan çalışmalarda standart sapma maksimum yüzde 1 oranındadır.

Rapor Sonu

Alıntılanan çalışmalar

  1. Effect of Optimizer Selection and Hyperparameter Tuning on Training Efficiency and LLM Performance – GitHub, erişim tarihi Ocak 21, 2026, https://github.com/avnlp/hyperparameter-tuning
  2. mistralai/Mistral-7B-v0.1 · Easiest way to fine tune Mistral-7B – Hugging Face, erişim tarihi Ocak 21, 2026, https://huggingface.co/mistralai/Mistral-7B-v0.1/discussions/133
  3. Weight Decay may matter more than 𝝁P for Learning Rate Transfer in Practice – arXiv, erişim tarihi Ocak 21, 2026, https://arxiv.org/html/2510.19093v1
  4. https://github.com/pthinc/bce
  5. Adam Optimizer — The Swiss Army knife of optimization! – Hugging Face, erişim tarihi Ocak 21, 2026, https://huggingface.co/blog/RDTvlokip/the-swiss-army-knife-of-optimization
  6. AdamW – Cornell University Computational Optimization Open Textbook – Optimization Wiki, erişim tarihi Ocak 21, 2026, https://optimization.cbe.cornell.edu/index.php?title=AdamW
  7. erişim tarihi Ocak 21, 2026, https://en.wikipedia.org/wiki/Speed_of_sound
  8. Speed of sound in air temperature barometric pressure calculator without no table air density of air formula temperature calculation mach 1 acoustic impedance room temperature propagation air density sea level velocity ideal gas 20 degrees or 21 degrees Celsius C cold warm – Sengpielaudio, erişim tarihi Ocak 21, 2026, https://sengpielaudio.com/calculator-speedsound.htm
  9. Kinetics of Spatially Organized Biochemical Reactions: Optimal Strategies and Underlying Physical Principles, erişim tarihi Ocak 21, 2026, https://edoc.ub.uni-muenchen.de/23190/1/Hinzpeter_Florian.pdf
  10. Investigation of Pharmaceutical Mass Transfer Phenomena Using Molecular Dynamics Simulations – Loyola eCommons, erişim tarihi Ocak 21, 2026, https://ecommons.luc.edu/cgi/viewcontent.cgi?referer=&httpsredir=1&article=2261&context=luc_diss
  11. Machine epsilon – Wikipedia, erişim tarihi Ocak 21, 2026, https://en.wikipedia.org/wiki/Machine_epsilon
  12. Speed of light – Wikipedia, erişim tarihi Ocak 21, 2026, https://en.wikipedia.org/wiki/Speed_of_light
  13. Fine-tuning Mistral 7B with W&B | finetuning_mistral7b – Weights & Biases – Wandb, erişim tarihi Ocak 21, 2026, https://wandb.ai/vincenttu/finetuning_mistral7b/reports/Fine-tuning-Mistral-7B-with-W-B–Vmlldzo1NTc3MjMy
  14. Part I — Optimal Hyperparameter Scaling Law in Large Language Model Pretraining – arXiv, erişim tarihi Ocak 21, 2026, https://arxiv.org/html/2503.04715v1
  15. Predictable Scale: Part I, Step Law – Optimal Hyperparameter Scaling Law in Large Language Model Pre-training – arXiv, erişim tarihi Ocak 21, 2026, https://arxiv.org/html/2503.04715v7
  16. Current advances: The fine-structure constant, erişim tarihi Ocak 21, 2026, https://physics.nist.gov/cuu/Constants/alpha.html
  17. The TinyLlama project is an open endeavor to pretrain a 1.1B Llama model on 3 trillion tokens. – GitHub, erişim tarihi Ocak 21, 2026, https://github.com/jzhang38/TinyLlama