OpenAI API 服務位置
關於 OpenAI API
TL;DR, OpenAI Location: San Antonio, Texas, USA
目前所有的 OpenAI API 呼叫都會呼叫 https://api.openai.com
我們可以使用 mtr api.openai.com 來追蹤封包的路徑，得知最後的出口是落在 AS8075 裡的 ae100-0.icr01.sn1.ntwk.msn.net，而 AS8075 是 Microsoft Global Network 專用的 ASN，除此之外你如果有看到 AS8068、AS8069、AS12076 都是隸屬於 Microsoft 管轄的範圍
$ mtr --report --report-cycles 200 api.openai.com
Start: 2023-03-08T06:24:44+0800
HOST: rhel8 Loss% Snt Last Avg Best Wrst StDev
1.|-- _gateway 0.0% 200 0.5 0.4 0.2 3.4 0.3
2.|-- 192.168.100.254 0.0% 200 3.5 4.0 2.1 18.3 2.4
3.|-- h254.s98.ts.hinet.net 0.0% 200 12.4 17.8 11.9 25.8 3.1
4.|-- tpdb-3332.hinet.net 3.5% 200 13.5 12.7 11.0 24.6 1.5
5.|-- tpdb-3031.hinet.net 0.5% 200 13.3 12.9 10.6 23.1 1.4
6.|-- 220-128-1-1.hinet-ip.hine 0.0% 200 13.1 13.1 10.6 37.6 2.9
7.|-- 211-22-228-233.hinet-ip.h 0.5% 200 13.4 13.3 10.5 45.9 4.0
8.|-- 203-75-250-153.hinet-ip.h 2.0% 200 13.7 13.7 10.8 48.3 4.4
9.|-- ae28-0.icr02.tyo30.ntwk.m 0.0% 200 43.2 47.6 42.1 91.1 6.8
10.|-- be-102-0.ibr01.tyo30.ntwk 0.5% 200 177.7 183.9 176.2 294.2 21.7
11.|-- be-1-0.ibr01.tyo31.ntwk.m 5.0% 200 178.3 180.2 176.3 272.5 10.4
12.|-- be-9-0.ibr01.pnq01.ntwk.m 5.5% 200 177.7 180.8 176.2 538.6 26.9
13.|-- be-1-0.ibr01.lax30.ntwk.m 7.0% 200 177.3 181.5 175.7 501.8 26.7
14.|-- be-9-0.ibr01.phx10.ntwk.m 4.5% 200 177.2 184.8 175.8 465.1 29.1
15.|-- be-6-0.ibr01.sn1.ntwk.msn 7.0% 200 244.4 188.1 176.1 431.3 32.4
16.|-- ae100-0.icr01.sn1.ntwk.ms 6.5% 200 176.9 181.8 175.1 396.1 17.6
17.|-- ??? 100.0 200 0.0 0.0 0.0 0.0 0.0
當中 ae100-0.icr01.sn1.ntwk.msn.net 最重要的資訊是 sn 這個縮寫，這個代表的是封包轉送到哪一個 Azure Region，然後可以依據 Microsoft edge locations by abbreviation for Azure Front Door 查詢，故可得知 sn 位於 San Antonio, Texas, USA 地理位置，而 Azure Region 對上 Location 則為 Azure Region - South Central US
以此類推，可知從我家到 OpenAI 的封包路徑為
- Route Path: Hinet (Taiwan) -> TYO (Tokyo, Japan) -> PNQ (Pune, India) -> LAX (Los Angeles, California, USA) -> PHX (Phoenix, Arizona, USA) -> SN (San Antonio, Texas, USA)
關於 Azure South Central US 到 api.openai.com 的路由
開一個位於 Azure South Central US 的 Ubuntu VM，並且掛上 Public IP 測試到 api.openai.com 的距離，大約在 1 ms 上下
root@openai-vm:~# mtr --tcp --report --report-cycles 10 api.openai.com
Start: 2023-03-08T04:45:08+0000
HOST: openai-vm Loss% Snt Last Avg Best Wrst StDev
1.|-- ??? 100.0 10 0.0 0.0 0.0 0.0 0.0
2.|-- ??? 100.0 10 0.0 0.0 0.0 0.0 0.0
3.|-- ??? 100.0 10 0.0 0.0 0.0 0.0 0.0
4.|-- ??? 100.0 10 0.0 0.0 0.0 0.0 0.0
5.|-- ??? 100.0 10 0.0 0.0 0.0 0.0 0.0
6.|-- ??? 100.0 10 0.0 0.0 0.0 0.0 0.0
7.|-- ??? 100.0 10 0.0 0.0 0.0 0.0 0.0
8.|-- ??? 100.0 10 0.0 0.0 0.0 0.0 0.0
9.|-- ??? 100.0 10 0.0 0.0 0.0 0.0 0.0
10.|-- ??? 100.0 10 0.0 0.0 0.0 0.0 0.0
11.|-- ??? 100.0 10 0.0 0.0 0.0 0.0 0.0
12.|-- ??? 100.0 10 0.0 0.0 0.0 0.0 0.0
13.|-- 52.152.96.252 0.0% 10 1.1 1.1 1.0 1.4 0.1
關於 Azure South Central US 到 api.line.me 的路由
開一個位於 Azure South Central US 的 Ubuntu VM，並且掛上 Public IP 測試到 api.line.me 的距離，大約在 10~13 ms 上下
root@centralus-vm:~# ping -c 10 api.line.me
PING e14293.a.akamaiedge.net (184.86.161.105) 56(84) bytes of data.
64 bytes from a184-86-161-105.deploy.static.akamaitechnologies.com (184.86.161.105): icmp_seq=1 ttl=52 time=13.1 ms
64 bytes from a184-86-161-105.deploy.static.akamaitechnologies.com (184.86.161.105): icmp_seq=2 ttl=52 time=13.2 ms
64 bytes from a184-86-161-105.deploy.static.akamaitechnologies.com (184.86.161.105): icmp_seq=3 ttl=52 time=13.1 ms
64 bytes from a184-86-161-105.deploy.static.akamaitechnologies.com (184.86.161.105): icmp_seq=4 ttl=52 time=13.0 ms
64 bytes from a184-86-161-105.deploy.static.akamaitechnologies.com (184.86.161.105): icmp_seq=5 ttl=52 time=13.2 ms
64 bytes from a184-86-161-105.deploy.static.akamaitechnologies.com (184.86.161.105): icmp_seq=6 ttl=52 time=13.1 ms
64 bytes from a184-86-161-105.deploy.static.akamaitechnologies.com (184.86.161.105): icmp_seq=7 ttl=52 time=13.1 ms
64 bytes from a184-86-161-105.deploy.static.akamaitechnologies.com (184.86.161.105): icmp_seq=8 ttl=52 time=13.1 ms
64 bytes from a184-86-161-105.deploy.static.akamaitechnologies.com (184.86.161.105): icmp_seq=9 ttl=52 time=13.0 ms
64 bytes from a184-86-161-105.deploy.static.akamaitechnologies.com (184.86.161.105): icmp_seq=10 ttl=52 time=13.1 ms
--- e14293.a.akamaiedge.net ping statistics ---
10 packets transmitted, 10 received, 0% packet loss, time 9016ms
rtt min/avg/max/mdev = 12.962/13.098/13.249/0.071 ms
root@centralus-vm:~# mtr --report --report-cycles 10 api.line.me
Start: 2023-03-08T04:41:43+0000
HOST: centralus-vm Loss% Snt Last Avg Best Wrst StDev
1.|-- ??? 100.0 10 0.0 0.0 0.0 0.0 0.0
2.|-- ??? 100.0 10 0.0 0.0 0.0 0.0 0.0
3.|-- ??? 100.0 10 0.0 0.0 0.0 0.0 0.0
4.|-- ??? 100.0 10 0.0 0.0 0.0 0.0 0.0
5.|-- ??? 100.0 10 0.0 0.0 0.0 0.0 0.0
6.|-- ??? 100.0 10 0.0 0.0 0.0 0.0 0.0
7.|-- ??? 100.0 10 0.0 0.0 0.0 0.0 0.0
8.|-- ??? 100.0 10 0.0 0.0 0.0 0.0 0.0
9.|-- ??? 100.0 10 0.0 0.0 0.0 0.0 0.0
10.|-- ??? 100.0 10 0.0 0.0 0.0 0.0 0.0
11.|-- ??? 100.0 10 0.0 0.0 0.0 0.0 0.0
12.|-- ??? 100.0 10 0.0 0.0 0.0 0.0 0.0
13.|-- a184-86-161-105.deploy.st 0.0% 10 10.2 10.0 9.8 10.3 0.2