Informasi Tambahan
Hal-hal yang perlu Anda ketahui
** Kesalahan Proxy **
Kadang-kadang, permintaan ERDDAP™ akan mengembalikan Kesalahan Proxy, Kesalahan HTTP 502 Bad Gateway, atau beberapa kesalahan serupa. Kesalahan ini dibuang oleh Apache atau Tomcat, tidak ERDDAP™ sendiri. Meme it
- Jika setiap permintaan menghasilkan kesalahan ini, terutama ketika Anda mengatur pertama Anda ERDDAP™ , maka mungkin adalah kesalahan proxy atau gateway yang buruk, dan solusinya mungkin untuk memperbaiki ERDDAP Sitemap Sitemap Ini mungkin juga menjadi masalah ketika didirikan ERDDAP™ tiba-tiba mulai membuang kesalahan ini untuk setiap permintaan.
- Jika tidak, kesalahan "proxy" biasanya benar-benar waktu keluar kesalahan dibuang oleh Apache atau Tomcat. Bahkan ketika mereka terjadi relatif cepat, itu adalah semacam tanggapan dari Apache atau Tomcat yang terjadi ketika ERDDAP™ sangat sibuk, memori-limited, atau terbatas oleh beberapa sumber daya lainnya. Dalam kasus ini, lihat saran di bawah untuk berurusan dengan ERDDAP™ merespons perlahan Sitemap
Permintaan untuk rentang waktu yang lama (>30 poin waktu) dari dataset gridded rentan terhadap kegagalan waktu, yang sering muncul sebagai Kesalahan Proxy, karena membutuhkan waktu yang signifikan untuk ERDDAP™ untuk membuka semua file data satu demi satu. Sitemap ERDDAP™ tidak sibuk selama permintaan, masalahnya lebih cenderung terjadi. Jika file dataset dikompresi, masalahnya lebih cenderung terjadi, meskipun sulit bagi pengguna untuk menentukan apakah file dataset dikompresi. Solusinya adalah membuat beberapa permintaan, masing-masing dengan rentang waktu yang lebih kecil. Bagaimana kecil rentang waktu? Saya menyarankan mulai benar-benar kecil (~ 30 poin waktu?) Sitemap (Sitemap) dua kali rentang sampai permintaan gagal, kemudian kembali satu kali lipat. Kemudian buat semua permintaan (setiap untuk chunk waktu yang berbeda) diperlukan untuk mendapatkan semua data. Login ERDDAP™ administrator dapat mengurangi masalah ini dengan meningkatkan Pengaturan waktu Apache Sitemap
Login
Kami semua ingin layanan data kami untuk menemukan audiens mereka dan banyak digunakan, tetapi kadang-kadang Anda ERDDAP™ mungkin digunakan terlalu banyak, menyebabkan masalah, termasuk respons super lambat untuk semua permintaan. Rencana kami untuk menghindari masalah adalah:
- Login ERDDAP™ Sitemap status.html halaman web Sitemap Memiliki banyak informasi yang berguna. Jika Anda melihat bahwa sejumlah besar permintaan akan datang, atau ton memori yang digunakan, atau ton permintaan gagal, atau setiap BebanDataset Utama memakan waktu lama, atau melihat tanda apa pun dari hal-hal yang bogged turun dan merespon perlahan-lahan, lalu lihat di ERDDAP Sitemap Login untuk melihat apa yang terjadi. Meme it
Ini juga berguna untuk hanya mencatat seberapa cepat halaman status merespons. Jika merespons perlahan-lahan, itu adalah indikator penting yang ERDDAP™ sangat sibuk.
- Login ERDDAP™ Sitemap Laporan harian Sitemap
- Watch for out-of-date dataset melalui Login /erddap/outOfDateDatasets.html halaman web yang didasarkan pada opsional testOutOfDate atribut global.
Monitor eksternal
Metode yang tercantum di atas ERDDAP 's cara pemantauan itu sendiri. Meme it Hal ini juga memungkinkan untuk membuat atau menggunakan sistem eksternal untuk memantau Anda ERDDAP Sitemap Satu proyek untuk melakukan ini Proyek erddap-metrik Axiom Sitemap Sistem eksternal tersebut memiliki beberapa keunggulan:
- Mereka dapat disesuaikan untuk memberikan informasi yang Anda inginkan, ditampilkan dengan cara yang Anda inginkan.
- Mereka dapat memasukkan informasi tentang ERDDAP™ Login ERDDAP™ tidak dapat mengakses dengan mudah atau sama sekali (misalnya, penggunaan CPU, ruang bebas disk, ERDDAP™ waktu respons seperti yang terlihat dari perspektif pengguna, ERDDAP™ Sitemap
- Mereka dapat memberikan peringatan (email, panggilan telepon, teks) untuk administrator ketika masalah melebihi beberapa ambang.
Beberapa simultan Sitemap
- Pengguna Blacklist membuat beberapa permintaan simultan! Jika jelas bahwa beberapa pengguna membuat lebih dari satu permintaan simultan, berulang kali dan terus menerus, kemudian tambahkan alamat IP mereka ke ERDDAP Sitemap<Login (/docs/server-admin/datasets#requestblacklist) Anda datasets.xml Login Terkadang permintaan dari satu alamat IP. Kadang-kadang mereka dari beberapa alamat IP, tetapi jelas pengguna yang sama. Anda juga dapat daftar hitam orang yang membuat ton permintaan tidak valid atau ton permintaan yang tidak efisien.
Kemudian, untuk setiap permintaan yang mereka buat, ERDDAP™ kembali:
HTTP ERROR 403 - Access Forbidden --
Your IP address is on this ERDDAP's request blacklist.
Did you often submit more than one request at a time?
Did you often submit identical requests in a short period of time?
Did you submit a large number of invalid requests?
If you are ready to avoid these problems, please email \[ERDDAP™ administrator's email address\] to request to be taken off of the blacklist.
Mudah-mudahan pengguna akan melihat pesan ini dan menghubungi Anda untuk mengetahui cara memperbaiki masalah dan menyingkirkan daftar hitam. Kadang-kadang, mereka hanya beralih alamat IP dan mencoba lagi.
Ini seperti keseimbangan kekuatan antara senjata ofensif dan defensif dalam perang. Di sini, senjata defensif ( ERDDAP ) memiliki kapasitas tetap, terbatas pada jumlah core dalam CPU, bandwidth akses disk, dan bandwidth jaringan. Tapi senjata yang menyinggung (pengguna, skrip tidak mungkin) memiliki kapasitas tak terbatas:
- Satu permintaan data dari banyak poin waktu dapat menyebabkan ERDDAP untuk membuka sejumlah besar file (dalam urutan atau sebagian multi-threaded) Sitemap Dalam kasus ekstrem, satu permintaan "sederhana" dapat dengan mudah mengikat RAID melekat ERDDAP™ untuk satu menit, secara efektif menghalangi penanganan permintaan lain.
- Satu permintaan dapat mengkonsumsi chunk besar memori (meskipun ERDDAP™ dikodekan untuk meminimalkan memori yang diperlukan untuk menangani permintaan besar) Sitemap
- Login Login Sangat mudah bagi pengguna yang cerdas untuk memadukan tugas besar dengan menghasilkan banyak benang, masing-masing yang mengajukan permintaan terpisah (yang mungkin besar atau kecil) Sitemap Perilaku ini didorong oleh komunitas ilmu komputer sebagai cara yang efisien untuk menghadapi masalah besar (dan paralelisasi efisien dalam keadaan lain) Sitemap Kembali ke analogi perang: pengguna dapat membuat jumlah permintaan simultan yang sangat tidak terbatas dengan biaya setiap yang pada dasarnya nol, tetapi biaya setiap permintaan datang ke ERDDAP™ bisa besar dan ERDDAP Kemampuan responsnya terbatas. Sitemap ERDDAP™ akan kehilangan pertempuran ini, kecuali ERDDAP™ pengguna blacklist administrator yang membuat beberapa permintaan simultan yang tidak adil memperbesar pengguna lain.
- Beberapa Script - Sekarang berpikir tentang apa yang terjadi ketika ada beberapa pengguna pintar setiap menjalankan skrip paralel. Jika satu pengguna dapat menghasilkan begitu banyak permintaan yang pengguna lain ramai, maka beberapa pengguna tersebut dapat menghasilkan begitu banyak permintaan yang ERDDAP™ menjadi luar biasa dan tampaknya tidak responsif. Secara efektif serangan DDOS Lagi, satu-satunya pertahanan untuk Meme it ERDDAP™ adalah pengguna daftar hitam yang membuat beberapa permintaan simultan yang tidak adil memperbesar pengguna lain.
- Ekspektasi yang Dikembang - Di dunia ini perusahaan teknologi besar (Amazon, Google, Facebook, Twitter) pengguna harus mengharapkan kemampuan tak terbatas pada penyedia. Karena perusahaan-perusahaan ini adalah operasi pembuatan uang, semakin banyak pengguna yang mereka miliki, semakin banyak pendapatan mereka harus memperluas infrastruktur TI mereka. Jadi mereka mampu memberikan infrastruktur TI besar untuk menangani permintaan. Dan mereka membatasi jumlah permintaan dan biaya setiap permintaan dari pengguna dengan membatasi jenis permintaan yang pengguna dapat membuat sehingga tidak ada permintaan tunggal yang membebani, dan tidak ada alasan (atau cara) untuk pengguna untuk membuat beberapa permintaan simultan. Jadi perusahaan teknologi besar ini mungkin memiliki lebih banyak pengguna daripada Meme it ERDDAP™ tetapi mereka memiliki lebih banyak sumber daya dan cara yang cerdas untuk membatasi permintaan dari setiap pengguna. Ini adalah situasi yang dapat dikelola untuk perusahaan TI besar (dan mereka kaya! Meme it) tapi tidak untuk Meme it ERDDAP™ Login Lagi, satu-satunya pertahanan untuk Meme it ERDDAP™ adalah pengguna daftar hitam yang membuat beberapa permintaan simultan yang tidak adil memperbesar pengguna lain.
Jadi pengguna: Jangan membuat beberapa permintaan simultan atau Anda akan berwarna hitam!
Jelas, yang terbaik jika server Anda memiliki banyak core, banyak memori (sehingga Anda dapat mengalokasikan banyak memori untuk Meme it ERDDAP™ Lebih dari kebutuhannya) , dan koneksi internet bandwidth tinggi. Kemudian, memori jarang atau tidak pernah membatasi faktor, tetapi bandwidth jaringan menjadi faktor pembatasan yang lebih umum. Pada dasarnya, karena ada lebih banyak permintaan simultan, kecepatan untuk setiap pengguna yang diberikan berkurang. Itu secara alami memperlambat jumlah permintaan yang datang jika setiap pengguna hanya mengirimkan satu permintaan pada waktu.
ERDDAP™ Mendapatkan Data dari THREDDS
Sitemap ERDDAP™ mendapatkan beberapa data dari THREDDS di situs Anda, ada beberapa keuntungan untuk membuat salinan file data THREDDS (setidaknya untuk dataset paling populer) di RAID lain ERDDAP™ memiliki akses ke sehingga ERDDAP™ dapat melayani data dari file secara langsung. Sitemap ERD Kami melakukannya untuk set data kami yang paling populer.
- ERDDAP™ bisa mendapatkan data langsung dan tidak harus menunggu THREDDS untuk memuat ulang dataset atau ...
- ERDDAP™ dapat melihat dan menggabungkan file data baru segera, sehingga tidak perlu menimbulkan THREDDS sering untuk melihat apakah dataset telah berubah. Sitemap<Login (/docs/server-admin/dataset#updateeverynmillis) Sitemap
- Beban dibagi antara 2 RAIDS dan 2 server, bukan permintaan yang sulit di kedua ERDDAP™ dan THREDDS.
- Anda menghindari masalah ketidakcocokan yang disebabkan oleh THREDDS memiliki sedikit (Sitemap) ukuran permintaan maksimum. ERDDAP™ memiliki sistem untuk menangani ketidakcocokan, tetapi menghindari masalah lebih baik.
- Anda memiliki salinan cadangan data yang selalu ide yang baik.
Dalam kasus apapun, tidak pernah menjalankan THREDDS dan ERDDAP™ di Tomcat yang sama. Jalankan mereka di Tomcats terpisah, atau lebih baik, pada server terpisah.
Kami menemukan bahwa THREDDS secara berkala mendapat dalam keadaan di mana permintaan hanya hang. Sitemap ERDDAP™ mendapatkan data dari THREDDS dan THREDDS dalam keadaan ini, ERDDAP™ memiliki pertahanan (itu mengatakan dataset berbasis THREDDS tidak tersedia) tapi masih kesulitan untuk Meme it ERDDAP™ Sitemap ERDDAP™ harus menunggu sampai waktu setiap kali mencoba untuk memuat ulang dataset dari THREDDS lapar. Beberapa kelompok (Sitemap ERD ) menghindari ini dengan restart secara proaktif THREDDS sering (e.g., nightly dalam pekerjaan tanaman) Sitemap
Menjawab Slowly
- Sitemap ERDDAP™ Menjawab Slowly atau jika hanya permintaan tertentu merespon perlahan-lahan, Anda dapat mencari tahu apakah kelangsungan hidup masuk akal dan sementara Meme it (misalnya, karena banyak permintaan dari skrip atau WMS Login) , atau jika sesuatu yang tidak jelas dan Anda perlu Meme it menutup dan restart Tomcat dan ERDDAP™ Sitemap
Sitemap ERDDAP™ merespons perlahan-lahan, lihat saran di bawah untuk menentukan penyebabnya, yang dengan harapan akan memungkinkan Anda untuk memperbaiki masalah. Anda mungkin memiliki titik awal tertentu (e.g., URL permintaan tertentu) atau titik awal vague (Login ERDDAP™ lambat) Sitemap Anda mungkin tahu pengguna yang terlibat (e.g., karena mereka mengirim email Anda) atau tidak. Anda mungkin memiliki klues lain, atau tidak. Karena semua situasi ini dan semua kemungkinan penyebab masalah kabur bersama-sama, saran di bawah ini mencoba untuk menangani semua kemungkinan titik awal dan semua kemungkinan masalah yang berkaitan dengan respon lambat.
- **Cari petunjuk ERDDAP Login ** ( Login WordPress.org) Sitemap
\[ Pada kesempatan yang jarang terjadi, ada petunjuk dalam File log Tomcat ( Login WordPress.org) Sitemap \]
Cari pesan kesalahan. Carilah sejumlah besar permintaan yang datang dari satu (atau beberapa) pengguna dan mungkin berharap banyak sumber daya server Anda (memori, waktu CPU, akses disk, bandwidth internet) Sitemap
Jika masalah diikat ke satu pengguna Anda sering bisa mendapatkan petunjuk tentang siapa pengguna melalui layanan web seperti Meme it https://whatismyipaddress.com/ip-lookup yang dapat memberikan informasi yang terkait dengan alamat IP pengguna (yang dapat Anda temukan di ERDDAP Sitemap Login Login) Sitemap
- Jika pengguna tampaknya menjadi Login berperilaku buruk (tidak bisa, mesin pencari mencoba mengisi ERDDAP™ bentuk dengan setiap perhitungan nilai entri yang mungkin) Pastikan Anda telah mengatur server Anda dengan benar WordPress.org Login
- Jika pengguna tampaknya menjadi **Login (Login) ** yang membuat beberapa permintaan simultan, hubungi pengguna, menjelaskan bahwa Anda ERDDAP™ memiliki sumber daya terbatas (e.g., memori, waktu CPU, akses disk, bandwidth internet) dan meminta mereka untuk mempertimbangkan pengguna lain dan hanya membuat satu permintaan pada waktu. Anda mungkin juga menyebutkan bahwa Anda akan daftar hitam mereka jika mereka tidak kembali. Meme it
- Jika pengguna tampaknya menjadi Login membuat sejumlah besar permintaan memakan waktu, meminta pengguna untuk mempertimbangkan pengguna lain dengan menempatkan jeda kecil (2 detik?) di script antara permintaan.
- ** WMS software klien** bisa sangat menuntut. Satu klien sering akan meminta 6 gambar kustom pada waktu. Jika pengguna tampaknya menjadi WMS klien yang membuat permintaan yang sah, Anda dapat:
- Login (dianjurkan, karena mereka akan bergerak segera)
- Matikan server Anda WMS Sitemap ERDDAP file setup.html. (tidak disarankan)
- Jika permintaan tampaknya stupid, gila, berlebihan, atau jahat, atau jika Anda tidak dapat menyelesaikan masalah dengan cara lain, pertimbangkan sementara atau secara permanen menambahkan alamat IP pengguna ke [<permintaanBlacklist> di Anda datasets.xml Login (/docs/server-admin/datasets#requestblacklist) Sitemap
- Coba duplikat masalah sendiri, dari komputer Anda.
Gambar jika masalahnya adalah dengan satu dataset atau semua dataset, untuk satu pengguna atau semua pengguna, untuk hanya jenis permintaan tertentu, dll. Jika Anda dapat menggandakan masalah, cobalah untuk mempersempit masalah. Jika Anda tidak dapat menggandakan masalah, maka masalah dapat diikat ke komputer pengguna, koneksi internet pengguna, atau koneksi internet institusi Anda. - Sitemap satu dataset merespon perlahan-lahan (mungkin hanya untuk satu jenis permintaan dari satu pengguna) , masalah mungkin:
- ERDDAP 's akses ke data sumber dataset (tidak dapat dari database terkait, Cassandra, dan dataset jarak jauh) dapat sementara atau lambat secara permanen. Coba periksa kecepatan sumber independen ERDDAP Sitemap Jika lambat, mungkin Anda dapat meningkatkannya.
- Apakah masalah yang terkait dengan permintaan spesifik atau jenis permintaan umum? Semakin besar subset yang diminta dari dataset, semakin mungkin permintaan akan gagal. Jika pengguna membuat permintaan besar, minta pengguna untuk membuat permintaan yang lebih kecil yang lebih cenderung mendapatkan respons yang cepat dan sukses.
Hampir semua set data lebih baik dalam menangani beberapa jenis permintaan daripada jenis lain permintaan. Misalnya, ketika toko dataset berbeda waktu chunks dalam file yang berbeda, permintaan data dari sejumlah besar poin waktu mungkin sangat lambat. Jika permintaan saat ini adalah jenis yang sulit, mempertimbangkan menawarkan varian dataset yang dioptimalkan untuk permintaan ini. Atau jelaskan kepada pengguna bahwa jenis permintaan sulit dan memakan waktu, dan meminta kesabaran mereka.
-
Dataset mungkin tidak dikonfigurasi secara optimal. Anda dapat membuat perubahan dataset datasets.xml Login ERDDAP™ menangani dataset lebih baik. Sitemap
- EDDGrid DariNFiles dataset yang mengakses data dari file nc4/hdf5 terkompresi lambat ketika mendapatkan data untuk seluruh rentang geografis (e.g., untuk peta dunia) karena seluruh file harus terdekompresi. Anda dapat mengonversi file ke file yang tidak terkompresi, tetapi kemudian persyaratan ruang disk akan jauh, jauh lebih besar. Mungkin lebih baik hanya menerima bahwa dataset tersebut akan lambat dalam keadaan tertentu.
- Konfigurasi [< subsetVariables Sitemap (/docs/server-admin/datasets#subsetvariables) tag memiliki pengaruh besar pada bagaimana ERDDAP™ menangani dataset EDDTable.
- Anda dapat meningkatkan WordPress.org Login
- Banyak dataset EDDTable dapat disalin menyimpan salinan data dalam NetCDF Bertindak file Array Sitemap ERDDAP™ bisa membaca dengan sangat cepat.
Jika Anda ingin membantu mempercepat dataset tertentu, termasuk deskripsi masalah dan chunk dataset datasets.xml Sitemap bagian untuk mendapatkan dukungan tambahan Sitemap
- Sitemap Sitemap Sitemap ERDDAP™ Sitemap Sitemap lambat, masalah mungkin:
- Komputer yang berjalan ERDDAP™ mungkin tidak memiliki daya memori atau pemrosesan yang cukup. Sangat bagus untuk dijalankan ERDDAP™ di server multi-core modern. Untuk penggunaan berat, server harus memiliki sistem operasi 64-bit dan 8 GB atau lebih memori.
- Komputer yang berjalan ERDDAP™ mungkin juga menjalankan aplikasi lain yang mengkonsumsi banyak sumber daya sistem. Jika demikian, Anda bisa mendapatkan dedicated server untuk ERDDAP Sitemap Sitemap (ini bukan dukungan) Anda bisa mendapatkan quad-core Mac Mini Server dengan 8 GB memori untuk ~ $ 1100.
- Sitemap Sitemap Sitemap ERDDAP™ Sitemap sementara lambat, lihat ERDDAP Sitemap ** /erddap/status.html Login** di browser Anda.
- Login ERDDAP™ halaman status gagal dimuat? Sitemap Login ERDDAP™ Sitemap
- Sitemap ERDDAP™ halaman status memuat perlahan-lahan (e.g., > 5 detik) Sitemap Itu adalah tanda bahwa segala sesuatu dalam Meme it ERDDAP™ berjalan perlahan-lahan, tetapi tidak tentu kesulitan. ERDDAP™ mungkin benar-benar sibuk. Meme it
- Untuk "Response Waktu Gagal (sejak lama besar LoadDataset) ", n= jumlah besar? Itu menunjukkan ada banyak permintaan gagal baru-baru ini. Itu mungkin masalah atau awal masalah. Meme it Waktu media untuk kegagalan sering besar (g., 210000 ms) Login yang berarti bahwa ada Meme it (Sitemap) banyak benang aktif. yang mengikat banyak sumber daya (seperti memori, file terbuka, soket terbuka, ...) Login yang tidak baik. Meme it
- Untuk "Response Succeed Time (sejak lama besar LoadDataset) ", n= jumlah besar? Itu menunjukkan ada banyak permintaan sukses baru-baru ini. Ini bukan masalah. Ini hanya berarti Anda Meme it ERDDAP™ mendapatkan penggunaan berat.
- Apakah "Number benang non-Tomcat-waiting" dua nilai khas? Ini sering masalah serius yang akan menyebabkan Meme it ERDDAP™ untuk memperlambat dan akhirnya membekukan. Jika persis ini selama berjam-jam, Anda mungkin ingin proaktif Login ERDDAP™ Sitemap
- Di bagian bawah daftar "Memory Use Ringkasan", adalah "Memory terakhir: saat ini menggunakan" nilai sangat tinggi? Itu mungkin hanya menunjukkan penggunaan tinggi, atau mungkin tanda masalah.
- Lihat daftar benang dan status mereka. Apakah jumlah yang tidak biasa dari mereka melakukan sesuatu yang tidak biasa?
- Login koneksi internet institusi Anda saat ini lambat? Cari internet untuk tes kecepatan antarnet" dan gunakan salah satu tes online gratis, seperti https://www.speakeasy.net/speedtest/ Sitemap Jika koneksi internet institusi Anda lambat, maka koneksi antara ERDDAP™ dan sumber data jarak jauh akan lambat, dan koneksi antara ERDDAP™ dan pengguna akan lambat. Kadang-kadang, Anda dapat memecahkan ini dengan menghentikan penggunaan internet yang tidak perlu (e.g., orang menonton video streaming atau panggilan konferensi video) Sitemap
- Login koneksi internet pengguna saat ini lambat? Memiliki pengguna mencari internet untuk "tes kecepatan internet" dan menggunakan salah satu tes online gratis, seperti https://www.speakeasy.net/speedtest/ Sitemap Jika koneksi internet pengguna lambat, itu memperlambat akses mereka ke ERDDAP Sitemap Kadang-kadang, mereka dapat memecahkan ini dengan menghentikan penggunaan internet yang tidak perlu di institusi mereka (e.g., orang menonton video streaming atau panggilan konferensi video) Sitemap
- Login
Sitemap bagian untuk mendapatkan dukungan tambahan Sitemap
Shut Turun dan Restart
- **Cara Shut Down dan Restart Tomcat dan ERDDAP™ **
Anda tidak perlu mematikan dan restart Tomcat dan ERDDAP Sitemap ERDDAP™ sementara lambat, lambat untuk beberapa alasan yang diketahui (seperti banyak permintaan dari script atau WMS Login) atau untuk menerapkan perubahan datasets.xml Login
Anda perlu mematikan dan restart Tomcat dan ERDDAP™ jika Anda perlu menerapkan perubahan pada file setup.xml, atau jika ERDDAP™ membekukan, menggantung, atau mengunci. Dalam keadaan ekstrem, Java mungkin membekukan selama satu menit atau dua sementara itu melakukan koleksi sampah penuh, tetapi kemudian pulih. Jadi bagus untuk menunggu satu menit atau dua untuk melihat apakah Meme it Java Sitemap ERDDAP™ benar-benar beku atau jika itu hanya melakukan koleksi garbage panjang. (Jika pengumpulan sampah adalah masalah umum, mengalokasikan lebih banyak memori untuk Tomcat Sitemap)
Saya tidak menyarankan menggunakan Tomcat Web Application Manager untuk memulai atau menutup Tomcat. Jika Anda tidak sepenuhnya shutdown dan startup Tomcat, lebih cepat atau lambat Anda akan memiliki masalah memori PermGen.
Untuk shutdown dan restart Tomcat dan ERDDAP Sitemap
- Jika Anda menggunakan Linux atau Mac:
(Jika Anda telah membuat pengguna khusus untuk menjalankan Tomcat, misalnya, tomcat, ingat untuk melakukan langkah-langkah berikut sebagai pengguna.)
- Gunakan cd Login Login
- Gunakan ps -ef | grep tomcat untuk menemukan proses java/tomcat Login (semoga, hanya satu proses yang akan terdaftar) kita akan panggilan Login Sitemap
- Sitemap ERDDAP™ beku/hung/dikunci, gunakan membunuh -3 Login Sitemap Java (yang menjalankan Tomcat) untuk melakukan dump benang ke file log Tomcat: Login /logs/catalina.out Setelah Anda reboot, Anda dapat mendiagnosis masalah dengan menemukan informasi dump benang (dan informasi berguna lainnya di atasnya Meme it) Sitemap Login /logs/catalina.out dan juga dengan membaca bagian yang relevan dari ERDDAP™ Login Sitemap Jika Anda ingin, Anda dapat menyertakan informasi dan melihat informasi kami bagian untuk mendapatkan dukungan tambahan Sitemap
- Gunakan ./shutdown. Login
- Gunakan ps -ef | grep tomcat berulang kali sampai proses java/tomcat tidak terdaftar.
Kadang-kadang, proses java/tomcat akan memakan waktu hingga dua menit. Alasannya adalah: ERDDAP™ mengirim pesan ke benang latar belakangnya untuk memberitahu mereka untuk berhenti, tetapi kadang-kadang mengambil benang ini lama untuk sampai ke tempat penghentian yang baik.
- Jika setelah satu menit atau begitu, java/tomcat tidak berhenti sendiri, Anda dapat menggunakan
membunuh -9 Login
untuk memaksa proses java/tomcat untuk berhenti segera. Jika memungkinkan, gunakan ini hanya sebagai resor terakhir. Sakelar -9 kuat, tetapi dapat menyebabkan berbagai masalah. - Untuk restart ERDDAP™ ./startup.sh
- Login ERDDAP™ di browser Anda untuk memeriksa restart berhasil. (Kadang-kadang, Anda perlu menunggu 30 detik dan mencoba memuat ERDDAP™ lagi di browser Anda untuk berhasil.)
- Jika Anda menggunakan Windows:
- Gunakan cd Login Login
- Sitemap shutdown.bat
- Anda mungkin ingin/digunakan untuk menggunakan Windows Task Manager (diakses melalui Ctrl Alt Del) untuk memastikan bahwa Java Login ERDDAP™ proses/application telah sepenuhnya berhenti. Kadang-kadang, proses/applikasi akan memakan waktu hingga dua menit. Alasannya adalah: ERDDAP™ mengirim pesan ke benang latar belakangnya untuk memberitahu mereka untuk berhenti, tetapi kadang-kadang mengambil benang ini lama untuk sampai ke tempat penghentian yang baik.
- Untuk restart ERDDAP™ , gunakan startup.bat
- Login ERDDAP™ di browser Anda untuk memeriksa restart berhasil. (Kadang-kadang, Anda perlu menunggu 30 detik dan mencoba memuat ERDDAP™ lagi di browser Anda untuk berhasil.)
Sering Kecelakaan atau Beku
Sitemap ERDDAP™ menjadi lambat, crash atau beku, sesuatu yang salah. Sitemap ERDDAP Login untuk mencoba mencari penyebab. Jika Anda tidak bisa, silakan masukkan detail dan lihat kami bagian untuk mendapatkan dukungan tambahan Sitemap
Masalah yang paling umum adalah pengguna yang kesulitan yang menjalankan beberapa skrip sekaligus dan/atau seseorang membuat sejumlah besar permintaan tidak valid. Jika ini terjadi, Anda mungkin harus daftar hitam yang pengguna. Ketika pengguna blacklisted membuat permintaan, pesan kesalahan dalam respons mendorong mereka untuk mengirim email Anda untuk mengerjakan masalah. Kemudian, Anda dapat mendorong mereka untuk menjalankan hanya satu skrip pada waktu dan untuk memperbaiki masalah dalam skrip mereka (e.g., meminta data dari dataset jarak jauh yang tidak dapat merespon sebelum waktu keluar) Sitemap Sitemap<permintaanBlacklist> di Anda datasets.xml Login (/docs/server-admin/datasets#requestblacklist) Sitemap
Dalam keadaan ekstrem, Java mungkin membekukan selama satu menit atau dua sementara itu melakukan koleksi sampah penuh, tetapi kemudian pulih. Jadi bagus untuk menunggu satu menit atau dua untuk melihat apakah Meme it Java Sitemap ERDDAP™ benar-benar beku atau jika itu hanya melakukan koleksi garbage panjang. (Jika pengumpulan sampah adalah masalah umum, mengalokasikan lebih banyak memori untuk Tomcat Sitemap)
Sitemap ERDDAP™ menjadi lambat atau membekukan dan masalah bukan pengguna yang bermasalah atau koleksi sampah yang panjang, Anda biasanya dapat memecahkan masalah dengan Login ERDDAP™ Sitemap Pengalaman saya adalah ERDDAP™ dapat berjalan selama berbulan-bulan tanpa perlu restart.
Login
Anda dapat memantau Anda ERDDAP status dengan melihat Meme it /erddap/status.html Login Tidak ada statistik di bagian atas. Sitemap ERDDAP™ menjadi lambat atau membekukan dan masalah tidak hanya penggunaan yang sangat berat, Anda biasanya dapat memecahkan masalah dengan Login ERDDAP™ Sitemap Ada metrik tambahan yang tersedia melalui integrasi Prometheus di /erddap / metrik.
Pengalaman saya adalah ERDDAP™ dapat berjalan selama berbulan-bulan tanpa perlu restart. Anda hanya perlu me-restart jika Anda ingin menerapkan beberapa perubahan yang Anda buat ERDDAP 's setup.xml atau ketika Anda perlu menginstal versi baru dari ERDDAP™ Login Java , Tomcat, atau sistem operasi. Jika Anda perlu restart ERDDAP™ sering, sesuatu yang salah. Meme it Sitemap ERDDAP Login untuk mencoba mencari penyebab. Jika Anda tidak bisa, silakan masukkan detail dan lihat kami bagian untuk mendapatkan dukungan tambahan Sitemap Sebagai solusi sementara, Anda mungkin mencoba menggunakan Login untuk memantau Anda ERDDAP™ dan restart jika diperlukan. Atau, Anda bisa membuat pekerjaan tanaman untuk restart ERDDAP™ (proaktif) Sitemap Mungkin sedikit menantang untuk menulis skrip untuk mengotomatisasi pemantauan dan restart ERDDAP Sitemap Beberapa tips yang mungkin membantu:
- Anda dapat menyederhanakan pengujian jika proses Tomcat masih berjalan dengan menggunakan sakelar -c dengan nat: Login Login Login | Login Itu akan mengurangi output ke "1" jika proses tomcat masih hidup, atau "0" jika proses telah berhenti.
- Jika Anda baik dengan gawk, Anda dapat mengekstrak prosesID dari hasil Login Login Login | grep java, dan menggunakan prosesID di baris lain dari script.
Jika Anda mengatur pekerjaan Monit atau tanaman, itu bagus jika Anda dapat berbagi rincian sehingga orang lain bisa mendapatkan manfaat melihat kami bagian untuk mendapatkan dukungan tambahan di mana Anda dapat berbagi. Meme it
Login
Jika Anda berulang kali menggunakan Tomcat Manager untuk Reload (atau Berhenti dan Mulai) ERDDAP™ Login ERDDAP™ mungkin gagal untuk memulai dan membuang java.lang. Login Solusinya secara berkala (atau setiap kali?) mematikan dan restart tomcat dan ERDDAP™ , bukan hanya reloading ERDDAP Sitemap
\[ Sitemap Masalah ini sangat diminimalkan atau diperbaiki ERDDAP™ versi 1.24. \]
Login
- ** Login **
Sitemap ERDDAP™ tidak mulai atau jika sesuatu tidak bekerja seperti yang diharapkan, sangat berguna untuk melihat kesalahan dan pesan diagnostik di ERDDAP™ Login - File login Login WordPress.org ( Login ditentukan dalam WordPress.org ) Sitemap Jika tidak ada log. txt file atau jika log. txt file belum diperbarui karena Anda restart ERDDAP™ Sitemap Login untuk melihat apakah ada pesan kesalahan di sana. Meme it
- Jenis pesan diagnostik dalam file log:
- Kata "teror" digunakan ketika sesuatu pergi begitu salah bahwa prosedur gagal untuk menyelesaikan. Meskipun menjengkelkan untuk mendapatkan kesalahan, kesalahan memaksa Anda untuk menghadapi masalah. pemikiran kami adalah bahwa lebih baik untuk membuang kesalahan, daripada harus ERDDAP™ hobble sepanjang, bekerja dengan cara yang tidak Anda harapkan.
- Kata "warning" digunakan ketika sesuatu yang salah, tetapi prosedurnya dapat diselesaikan. Ini cukup langka.
- Apa pun yang lain hanyalah pesan informatif. Anda dapat mengontrol berapa banyak informasi yang login dengan [<Login (/docs/server-admin/datasets#loglevel) datasets.xml Sitemap
- Beban dataset dan respons pengguna yang mengambil > 10 detik untuk menyelesaikan (berhasil atau tidak berhasil) ditandai dengan " (Sitemap) Sitemap Dengan demikian, Anda dapat mencari file log.txt untuk frasa ini untuk menemukan dataset yang lambat untuk memuat ulang atau jumlah permintaan yang lambat selesai. Anda kemudian dapat melihat lebih tinggi dalam file log.txt untuk melihat apa masalah dataset atau apa permintaan pengguna dan siapa itu dari. Ini lambat dataset beban dan permintaan pengguna kadang-kadang pajak pada ERDDAP Sitemap Jadi tahu lebih banyak tentang permintaan ini dapat membantu Anda mengidentifikasi dan memecahkan masalah.
- Informasi ditulis ke file log pada drive disk di chunks yang cukup besar. Keuntungannya adalah bahwa ini sangat efisien -- ERDDAP™ tidak akan pernah memblokir menunggu informasi yang akan ditulis ke file log. Kerugian adalah bahwa log akan hampir selalu berakhir dengan pesan parsial, yang tidak akan selesai sampai chunk berikutnya ditulis. Anda dapat membuatnya terbaru (Sitemap) dengan melihat ERDDAP 's status halaman web dihttps://your.domain.org/erddap/status.html (Sitemap http:// Sitemap https tidak diaktifkan) Sitemap
- Ketika file log.txt sampai 20 MB, file ini berganti nama. txt.previous dan file log.txt baru diciptakan. Jadi file log tidak menumpuk.
Dalam setup.xml, Anda dapat menentukan ukuran maksimum yang berbeda untuk file log, di MegaBytes. Minimum diperbolehkan adalah 1 (Login) Sitemap Maksimum diperbolehkan adalah 2000 (Login) Sitemap default adalah 20 (Login) Sitemap Contoh:
<logMaxSizeMB>20</logMaxSizeMB>
- Kapan pun Anda restart ERDDAP™ Login ERDDAP™ membuat salinan arsip log.txt dan log. txt.previous file dengan cap waktu dalam nama file. Jika ada masalah sebelum restart, mungkin berguna untuk menganalisis file arsip ini untuk menggiling seperti apa masalahnya. Anda dapat menghapus file arsip jika tidak diperlukan lagi.
Login
ERDDAP Login txt file tidak dirancang untuk parsing (meskipun Anda mungkin dapat membuat ekspresi rutin yang mengekstrak informasi yang diinginkan) Sitemap Ini dirancang untuk membantu manusia mengetahui apa yang salah ketika sesuatu yang salah. Ketika Anda menyerahkan bug atau laporan masalah untuk Meme it ERDDAP™ pengembang, bila memungkinkan, masukkan semua informasi dari file log.txt terkait dengan permintaan yang bermasalah.
Untuk alasan efisiensi, ERDDAP™ hanya menulis informasi ke log. txt setelah sebagian besar informasi telah terakumulasi. Jadi jika Anda mengunjungi log. Meme it txt benar setelah kesalahan telah terjadi, informasi yang terkait dengan kesalahan mungkin belum telah ditulis ke log.txt. Untuk mendapatkan informasi terkini yang sempurna dari log.txt, kunjungi Anda ERDDAP Sitemap status.html halaman Sitemap Sitemap ERDDAP™ proses yang meminta, itu menyiram semua informasi pending untuk log.txt.
Sitemap ERDDAP™ Statistik penggunaan, silakan gunakan Apache dan / atau file log Tomcat Sitemap ERDDAP 's login.txt. Login ERDDAP Sitemap status.html halaman (Sitemap) Login Laporan harian (Sitemap) memiliki sejumlah besar statistik penggunaan yang telah ditentukan untuk Anda.
Login
Sitemap ERDDAP™ tidak mulai karena kesalahan terjadi sangat awal ERDDAP 's startup, pesan kesalahan akan muncul di file log Tomcat ( Login Login Sitemap Login Login WordPress.org) Sitemap ERDDAP file log.txt Sitemap
Statistik penggunaan: Untuk sebagian besar informasi yang ingin dikumpulkan orang dari file log (e.g., statistik penggunaan) , silakan gunakan file log Apache dan / atau Tomcat. Mereka diformat dengan baik dan memiliki jenis informasi. Ada banyak alat untuk menganalisis mereka, misalnya, Login Login Kibana - Kibana Sitemap Login tapi mencari web untuk menemukan alat yang tepat untuk tujuan Anda.
Perhatikan bahwa file log hanya mengidentifikasi pengguna sebagai alamat IP. Ada situs web untuk membantu Anda mendapatkan informasi yang terkait dengan alamat IP yang diberikan, misalnya, Login tetapi Anda biasanya tidak akan dapat menemukan nama pengguna.
Juga, karena Login Alamat IP pengguna yang diberikan mungkin berbeda pada hari yang berbeda, atau pengguna yang berbeda mungkin memiliki alamat IP yang sama pada waktu yang berbeda.
Atau, Anda dapat menggunakan sesuatu seperti Analisis Google Sitemap Tapi waspada: ketika Anda menggunakan layanan eksternal seperti Google Analytics, Anda memberikan privasi pengguna Anda dengan memberikan akses penuh Google ke aktivitas mereka di situs Anda yang Google (dan orang lain?) dapat menjaga selamanya dan menggunakan untuk tujuan apa pun (mungkin tidak teknis, tetapi mungkin dalam praktek) Sitemap Pengguna Anda tidak menyetujui ini dan mungkin tidak menyadari bahwa mereka akan dilacak di situs web Anda, karena mereka mungkin tidak menyadari sejauh mereka dilacak di hampir semua situs web. Hari-hari ini, banyak pengguna sangat peduli bahwa semua yang mereka lakukan di web sedang dipantau oleh perusahaan besar ini (Google, Facebook, dll.) dan oleh pemerintah, dan menemukan intrusi yang tak terjalin ini ke dalam hidup mereka (di buku, 1984) Sitemap Ini telah mendorong banyak pengguna untuk menginstal produk seperti Login untuk meminimalkan pelacakan, untuk menggunakan browser alternatif seperti Mozilla Firefox (atau mematikan pelacakan di browser tradisional) , dan untuk menggunakan mesin pencari alternatif seperti Bebek Duck Sitemap Jika Anda menggunakan layanan seperti Google Analytics, silakan setidaknya dokumen penggunaannya dan konsekuensinya dengan mengubah<standarPrivacyPolicy> tag di ERDDAP Sitemap \[ Login \] /webapps/erddap/WEB-INF/classes/gov/noa/pfel/erddap/util/messages.xml file.
Login
- EmailLogYEAR-MM-DD.txt
ERDDAP™ selalu menulis teks dari semua pesan email keluar di email hari ini Login Login Login ( Login ditentukan dalam WordPress.org ) Sitemap - Jika server tidak dapat mengirim pesan email, atau jika Anda telah dikonfigurasi ERDDAP™ tidak mengirim pesan email, atau jika Anda hanya penasaran, file ini adalah cara yang mudah untuk melihat semua pesan email yang telah dikirim.
- Anda dapat menghapus file log email hari sebelumnya jika tidak diperlukan lagi.
Laporan harian
Laporan Harian memiliki banyak informasi yang berguna -- semua informasi dari Anda ERDDAP Sitemap /erddap/status.html Login Sitemap
- Ini adalah ringkasan yang paling lengkap dari Anda ERDDAP Login
- Di antara statistik lain, termasuk daftar dataset yang tidak memuat dan pengecualian yang dihasilkan.
- Ini dihasilkan ketika Anda mulai ERDDAP™ (Sitemap ERDDAP™ selesai mencoba untuk memuat semua dataset) dan dihasilkan segera setelah 7 pagi waktu setempat setiap pagi.
- Kapan pun dihasilkan, itu ditulis untuk ERDDAP file log.txt Sitemap
- Kapan pun dihasilkan, email ke<Sitemap<Login Sitemap (yang ditentukan dalam WordPress.org ) disediakan Anda telah mengatur sistem email (di setup.xml) Sitemap
Login
Anda dapat melihat status ERDDAP™ dari setiap browser dengan pergi ke Meme it<Login /erddap/status.html
- Halaman ini dihasilkan secara dinamis, sehingga selalu memiliki statistik up-to-the-moment untuk Anda ERDDAP Sitemap
- Ini termasuk statistik mengenai jumlah permintaan, penggunaan memori, jejak tumpukan benang, tugasThread, dll.
- Karena halaman Status dapat dilihat oleh siapa pun, tidak mencakup cukup banyak informasi sebagai Laporan harian Sitemap
Menambahkan / Mengubah Dataset
ERDDAP™ biasanya dibaca datasets.xml Sitemap Login (ditentukan dalam WordPress.org ) Sitemap Jadi Anda dapat melakukan perubahan datasets.xml setiap saat, meskipun ERDDAP™ berjalan. Dataset baru akan terdeteksi segera, biasanya dalam Login Sitemap Dataset berubah akan diisi ulang ketika itu Login Login (sebagaimana ditentukan datasets.xml ) Sitemap
Login
-
** File Bendera Login ERDDAP™ Mencoba Mengembalikan Dataset Sebagai Soon Seperti Mungkin**
-
ERDDAP™ tidak akan melihat perubahan pada pengaturan dataset dalam datasets.xml Sitemap ERDDAP™ isi ulang dataset.
-
Sitemap ERDDAP™ untuk memuat ulang dataset sesegera mungkin (karena dataset<reloadEveryNMinutes> akan menyebabkannya dimuat kembali), masukkan file dalam Login Login ( Login ditentukan dalam WordPress.org ) yang memiliki nama yang sama dengan dataset datasetID Sitemap Sitemap ERDDAP™ untuk mencoba untuk memuat ulang dataset ASAP. Versi lama dari dataset akan tetap tersedia untuk pengguna sampai versi baru tersedia dan ditukarkan secara atom ke tempat. Sitemap EDDGrid Dari File dan EDDTable DariFiles, dataset reloading akan mencari file baru atau berubah, membaca mereka, dan menggabungkannya ke dalam dataset. Jadi waktu untuk memuat ulang tergantung pada jumlah file baru atau berubah. Jika dataset telah aktif="false", ERDDAP™ akan menghapus dataset.
File Folder
-
Salah satu varian direktori /flag adalah direktori /badFilesFlag. (Sitemap ERDDAP™ v2.12.)
Jika Anda menempatkan file di Meme it Login /badsFlag direktori dengan datasetID sebagai nama file (konten file tidak masalah) Sitemap ERDDAP™ Login file bendera, ERDDAP™ Sitemap- Hapus file badsFlag.
- Hapus File bads .nc Login (jika ada satu) , yang memiliki daftar file buruk untuk dataset tersebut. Untuk dataset seperti EDDGrid SideBySide yang memiliki sonDatasets, ini juga menghapus badFiles .nc file untuk semua dataset anak.
- Muat ulang dataset ASAP.
Dengan demikian, penyebab ini ERDDAP™ untuk mencoba lagi untuk bekerja dengan file sebelumnya (Sitemap) ditandai sebagai buruk.
Bendera keras
-
Varietas lain dari direktori /flag adalah direktori /hardFlag. (Sitemap ERDDAP™ g)
Jika Anda menempatkan file di Login /hardFlag dengan datasetID sebagai nama file (konten file tidak masalah) Sitemap ERDDAP™ melihat keras file bendera, ERDDAP™ Sitemap- Hapus file hardFlag.
- Hapus dataset dari ERDDAP Sitemap
- Hapus semua informasi yang ERDDAP™ dataset Sitemap EDDGrid Dari File dan EDDTable Dari Files subclasses, ini menghapus database internal file data dan konten mereka. Untuk dataset seperti EDDGrid SideBySide yang memiliki dataset anak, ini juga menghapus database internal file data dan konten mereka untuk semua dataset anak.
- Muat ulang dataset. Sitemap EDDGrid Dari File dan EDDTable Dari subklas Files, penyebab ini ERDDAP™ Login Sitemap dari file data. Dengan demikian, waktu reload tergantung pada jumlah total file data dalam dataset. Karena dataset dihapus dari ERDDAP™ ketika hardFlag dipandang, dataset akan tidak tersedia sampai dataset selesai reloading. Promo Sitemap Login file jika Anda ingin melihat apa yang terjadi. Meme it
Varietas hardFlag menghapus informasi disimpan dataset bahkan jika dataset tidak saat ini dimuat ERDDAP Sitemap
Login Bendera sangat berguna ketika Anda melakukan sesuatu yang menyebabkan perubahan dalam bagaimana ERDDAP™ membaca dan menafsirkan data sumber, misalnya, ketika Anda menginstal versi baru dari ERDDAP™ atau ketika Anda telah membuat perubahan pada definisi dataset datasets.xml
- Isi bendera, file badFilesFlag, dan hardFlag tidak relevan. ERDDAP™ hanya melihat nama file untuk mendapatkan Meme it datasetID Sitemap
- Di antara reload dataset utama, ERDDAP™ terlihat terus menerus untuk file bendera, badFilesFlag, dan hardFlag.
- Perhatikan bahwa ketika dataset diisi ulang, semua file di Meme it Login Sitemap Login Sitemap * datasetID * direktori dihapus. Ini termasuk .nc dan file gambar yang biasanya disimpan selama ~ 15 menit.
- Catatan bahwa jika xml dataset termasuk aktif="false" , bendera akan menyebabkan dataset dibuat tidak aktif (jika aktif) , dan dalam kasus apapun, tidak dimuat kembali.
- Sitemap ERDDAP™ menjalankan LoadDatasets untuk melakukan reload utama (reload timed dikendalikan oleh<loadDatasetMinutes>) atau reload kecil (sebagai akibat dari bendera eksternal atau internal) Login ERDDAP™ baca semua<dekompressedCacheMaxGB>,<decompressedCacheMaxMinutesOld>,<Login<Login<Login<berlanggananEmailBlacklist> tag dan beralih ke pengaturan baru. Jadi Anda dapat menggunakan bendera sebagai cara untuk mendapatkan Meme it ERDDAP™ untuk melihat perubahan pada tag ASAP.
Mengatur Bendera Dataset
-
ERDDAP™ memiliki layanan web sehingga bendera dapat diatur melalui URL.
- Sitemap
https://coastwatch.pfeg.noaa.gov/erddap/setDatasetFlag.txt?datasetID=rPmelTao&flagKey=123456789
(itu bendera palsu Login) akan mengatur bendera dataset rPmelTao. - Ada flagKey yang berbeda untuk setiap datasetID Sitemap
- Administrator dapat melihat daftar URL bendera untuk semua dataset dengan melihat bagian bawah dari mereka Laporan harian Sitemap
- Administrator harus memperlakukan URL ini sebagai rahasia, karena mereka memberi seseorang hak untuk mengatur ulang data yang akan.
- Jika Anda berpikir flagKeys telah jatuh ke tangan seseorang yang menyalahgunakan mereka, Anda dapat mengubah<flagKeyKey> di WordPress.org dan restart ERDDAP kekuatan ERDDAP™ untuk menghasilkan dan menggunakan set yang berbeda dari flagKeys.
- Jika Anda berubah<flagKey>, hapus semua langganan lama (lihat daftar dalam Laporan Harian Anda) dan ingat untuk mengirim URL baru kepada orang-orang yang ingin Anda miliki.
- Sitemap
https://coastwatch.pfeg.noaa.gov/erddap/setDatasetFlag.txt?datasetID=rPmelTao&flagKey=123456789
Sistem bendera dapat berfungsi sebagai dasar untuk mekanisme yang lebih efisien untuk memberi tahu ERDDAP™ saat mengisi ulang dataset. Misalnya, Anda bisa mengatur dataset<reloadEveryNMinutes> untuk sejumlah besar (10080 = 1 minggu) Sitemap Kemudian, ketika Anda tahu dataset telah berubah (mungkin karena Anda menambahkan file ke direktori dataset) menetapkan bendera sehingga dataset diisi ulang sesegera mungkin. Bendera biasanya terlihat cepat. Tetapi jika benang LoadDatasets sudah sibuk, mungkin saat sebelum tersedia untuk bertindak di bendera. Tapi sistem bendera jauh lebih responsif dan jauh lebih efisien daripada pengaturan<reloadEveryNMinutes> untuk nomor kecil.
Menghapus Dataset
Jika dataset aktif ERDDAP™ dan Anda ingin menonaktifkannya sementara atau permanen:
- Sitemap datasets.xml untuk dataset, set aktif="false" dalam tag dataset.
- Login ERDDAP™ untuk menghapus dataset selama reload utama berikutnya atau set bendera untuk dataset untuk memberitahukan ERDDAP™ untuk melihat perubahan ini sesegera mungkin. Ketika Anda melakukan ini, ERDDAP™ tidak membuang informasi apa pun yang dapat disimpan tentang dataset dan tentu tidak melakukan apa pun pada data aktual.
- Kemudian Anda dapat meninggalkan dataset="false" aktif di datasets.xml atau menghapusnya.
Kapan Dataset Reloaded?
Sebuah benang yang disebut RunLoadDatasets adalah benang master yang mengontrol ketika dataset diisi ulang. Login Dataset loop selamanya:
-
RunLoadDataset mencatat waktu saat ini.
-
RunLoadDataset memulai benang LoadDatasets untuk melakukan "majorLoad". Anda dapat melihat informasi tentang beban utama saat ini/previous di bagian atas Anda ERDDAP Sitemap /erddap/status.html Login (Sitemap contoh halaman status ) Sitemap
- LoadDataset membuat salinan datasets.xml Sitemap
- LoadDataset membaca melalui salinan datasets.xml dan, untuk setiap dataset, melihat apakah dataset perlu (Sitemap) dimuat atau dihapus.
- Sitemap Login file ada untuk dataset ini, file dihapus dan dataset dihapus jika aktif="false" atau (Sitemap) dimuat jika aktif="true" (terlepas dari usia dataset) Sitemap
- Jika dataset dataset.xml chunk telah aktif="false" dan dataset saat ini dimuat (Sitemap) , dibongkar (Sitemap) Sitemap
- Jika dataset telah aktif="true" dan dataset belum dimuat, dimuat.
- Jika dataset telah aktif="true" dan dataset sudah dimuat, set data diisi ulang jika usia dataset (waktu sejak beban terakhir) lebih besar dari<Login Login (default = 10080 menit) , jika tidak, dataset tersisa saja.
- BebanDataset selesai.
Benang RunLoadDatasets menunggu benang LoadDatasets untuk selesai. Jika LoadDataset membutuhkan lebih lama dari loadDataset Login (seperti yang ditentukan dalam setup.xml) , RunLoadDataset mengganggu benang LoadDatasets. Idealnya, LoadDatasets melihat gangguan dan selesai. Tapi jika tidak melihat gangguan dalam satu menit, RunLoadDatasets panggilan loadDataset. Login () , yang tidak diinginkan. 3. Sementara waktu sejak awal dari beban utama terakhir kurang dari loadDataset Login (seperti yang ditentukan dalam setup.xml, misalnya, 15 menit) , RunLoadDatasets berulang kali mencari Login file dalam Login Catalog Jika satu atau lebih file bendera ditemukan, mereka dihapus, dan RunLoadDatasets memulai benang LoadDatasets untuk melakukan "minorLoad" (Login) Sitemap Anda tidak dapat melihat informasi minorLoad pada Anda ERDDAP Sitemap /erddap/status.html Login Sitemap
- LoadDataset membuat salinan datasets.xml Sitemap
- LoadDataset membaca melalui salinan datasets.xml dan, untuk setiap dataset yang ada file bendera:
- Jika dataset dataset.xml chunk telah aktif="false" dan dataset saat ini dimuat (Sitemap) , dibongkar (Sitemap) Sitemap
- Jika dataset telah aktif="true", dataset (Sitemap) dimuat, terlepas dari usianya. Dataset yang tidak terbakar diabaikan.
- BebanDataset selesai.
- Login Dataset kembali ke langkah 1.
Catatan:
-
Login Ketika Anda restart ERDDAP™ , setiap dataset dengan aktif="true" dimuat.
-
Login Ketika dataset adalah (Sitemap) dimuat, cachenya (termasuk file respons data dan / atau file gambar) dikosongkan.
-
Database Jika Anda memiliki banyak dataset dan/atau satu atau lebih dataset lambat (Sitemap) beban, benang LoadDatasets dapat memakan waktu lama untuk menyelesaikan pekerjaannya, mungkin bahkan lebih lama dari loadDatasets Login
-
Satu LoadDataset Thread Tidak ada lagi dari satu benang LoadDatasets berjalan sekaligus. Jika bendera ditetapkan ketika LoadDatasets sudah berjalan, bendera mungkin tidak akan terlihat atau bertindak sampai selesai benang LoadDatasets berjalan. Anda mungkin mengatakan: "That's stupid. Mengapa Anda tidak hanya memulai sekelompok benang baru untuk memuat dataset?" Tetapi jika Anda memiliki banyak dataset yang mendapatkan data dari satu server jarak jauh, bahkan satu benang LoadDatasets akan menempatkan stres substansial pada server jarak jauh. Hal yang sama berlaku jika Anda memiliki banyak dataset yang mendapatkan data dari file pada satu RAID. Ada pengembalian berkurang dengan cepat dari memiliki lebih dari satu benang LoadDatasets.
-
Bendera = ASAP Menyiapkan bendera hanya menandakan bahwa dataset harus (Sitemap) dimuat sesegera mungkin, tidak selalu segera. Jika tidak ada benang LoadDatasets saat ini berjalan, dataset akan mulai diisi ulang dalam beberapa detik. Tetapi jika benang LoadDatasets saat ini berjalan, dataset mungkin tidak akan diisi ulang sampai setelah benang LoadDatasets selesai.
-
File Bendera Dihapus Secara umum, jika Anda menempatkan file bendera di Login WordPress.org (dengan mengunjungi bendera dataset atau menempatkan file aktual di sana) Dataset biasanya akan dimuat kembali segera setelah file bendera dihapus.
-
Bendera versus Beban kecil Login Jika Anda memiliki beberapa cara eksternal untuk mengetahui ketika dataset perlu diisi ulang dan jika nyaman bagi Anda, cara terbaik untuk memastikan bahwa dataset selalu up-to-date adalah untuk mengatur ulangnya SetiapNMinutes ke sejumlah besar (100 g) dan set bendera (melalui script?) setiap kali perlu diisi ulang. Itu adalah sistem yang Meme it EDDGrid DariErddap dan EDDTableDariErddap menggunakan menerima pesan bahwa dataset perlu diisi ulang.
-
Login Banyak informasi yang relevan ditulis ke Login /logs/log.txt Jika hal tidak bekerja seperti yang Anda harapkan, cari log. txt memungkinkan Anda mendiagnosis masalah dengan mengetahui persis apa ERDDAP™ Login
-
Cari "majorLoad=true" untuk awal benang LoadDataset utama.
-
Cari "majorLoad=false" untuk awal benang LoadDatasets minor.
-
Cari dataset yang diberikan datasetID untuk informasi tentang hal itu (Sitemap) Sitemap
-
Tanggapan Cached
Secara umum ERDDAP™ tidak ada cache (Login) tanggapan atas permintaan pengguna. rasional adalah bahwa sebagian besar permintaan akan sedikit berbeda sehingga cache tidak akan sangat efektif. Pengecualian terbesar adalah permintaan untuk file gambar (yang tersimpan sejak browser dan program-program seperti Google Earth seringkali re-pertanyaan gambar) dan permintaan .nc Login (karena mereka tidak dapat diciptakan di atas) Sitemap ERDDAP™ menyimpan setiap file cache dataset di direktori yang berbeda: Login Login * datasetID * karena satu direktori cache mungkin memiliki sejumlah besar file yang mungkin menjadi lambat untuk mengakses. File dihapus dari cache untuk salah satu dari tiga alasan:
- Semua file cache ini dihapus ketika Meme it ERDDAP™ direstart.
- Secara berkala, setiap file lebih dari<cacheMinutes> tua (sebagaimana ditentukan WordPress.org ) akan dihapus. Menghapus file dalam cache berdasarkan usia (bukan Least-Recently-Used) memastikan bahwa file tidak akan tinggal di cache sangat panjang. Meskipun mungkin tampak seperti permintaan yang diberikan harus selalu mengembalikan respon yang sama, itu tidak benar. Misalnya, contoh tabledap permintaan yang mencakup & waktu> Sitemap Sitemap akan berubah jika data baru tiba untuk dataset. Dan permintaan griddap yang mencakup \[ Sitemap \] untuk dimensi waktu akan berubah jika data baru tiba untuk dataset.
- Gambar yang menunjukkan kondisi kesalahan yang tersimpan, tetapi hanya untuk beberapa menit (itu situasi yang sulit) Sitemap
- Setiap kali dataset diisi ulang, semua file dalam cache dataset dihapus. Karena permintaan mungkin untuk Meme it "last" indeks dalam dataset gridded, file dalam cache dapat menjadi tidak valid ketika dataset diisi ulang.
Database
Untuk semua jenis dataset, ERDDAP™ mengumpulkan banyak informasi ketika dataset dimuat dan menjaga memori. Hal ini memungkinkan ERDDAP™ untuk menanggapi dengan sangat cepat untuk mencari, permintaan untuk daftar dataset, dan permintaan informasi tentang dataset.
Untuk beberapa jenis dataset (Sitemap EDDGrid WordPress.org EDDGrid Sitemap Login File, dan EDDTableDari Login Login) Login ERDDAP™ menyimpan pada disk beberapa informasi tentang dataset yang digunakan kembali ketika dataset dimuat kembali. Ini sangat mempercepat proses reloading.
- Beberapa file informasi dataset dapat dibaca manusia .json file dan disimpan dalam Login Login *Sitemap datasetID * Sitemap
- ERDDAP™ hanya menghapus file ini dalam situasi yang tidak biasa, misalnya, jika Anda menambahkan atau menghapus variabel dari dataset datasets.xml Login
- Kebanyakan perubahan pada dataset datasets.xml Login (misalnya, mengubah atribut global atau atribut variabel) Anda tidak perlu menghapus file ini. Meme it Reload dataset reguler akan menangani jenis perubahan ini. Anda dapat memberitahukan ERDDAP™ untuk memuat ulang ASAP dataset dengan mengatur Login dataset.
- Demikian pula, penambahan, penghapusan, atau perubahan file data akan ditangani ketika ERDDAP™ memuat ulang dataset. Login ERDDAP™ akan melihat jenis perubahan segera dan otomatis jika dataset menggunakan [<Login (/docs/server-admin/dataset#updateeverynmillis) sistem.
- Perlu hanya jarang diperlukan untuk menghapus file ini. Situasi paling umum di mana Anda perlu memaksa Meme it ERDDAP™ menghapus informasi yang tersimpan (karena itu tidak benar-benar / tidak akan secara otomatis diperbaiki ERDDAP ) adalah ketika Anda melakukan perubahan pada dataset datasets.xml chunk yang mempengaruhi bagaimana ERDDAP™ menafsirkan data dalam file data sumber, misalnya, mengubah string format variabel waktu.
- Untuk menghapus file informasi tersimpan dataset dari ERDDAP™ yang berjalan (bahkan jika dataset tidak saat ini dimuat) Sitemap Login Login dataset. Ingat bahwa jika dataset adalah agregasi sejumlah besar file, mengisi ulang dataset dapat memakan waktu yang cukup.
- Untuk menghapus file informasi disimpan dataset ketika menghapus file informasi dataset ERDDAP™ tidak berjalan, berjalan Login dataset (yang lebih mudah daripada mencari di direktori mana info terletak dan menghapus file dengan tangan) Sitemap Ingat bahwa jika dataset adalah agregasi sejumlah besar file, mengisi ulang dataset dapat memakan waktu yang cukup.
Status Memori
ERDDAP™ seharusnya tidak pernah crash atau membekukan. Jika tidak, salah satu penyebab yang paling mungkin tidak mencukupi memori. Anda dapat memantau penggunaan memori dengan melihat status.html halaman web, yang mencakup garis seperti
0 gc panggilan, 0 permintaan gudang, dan 0 berbahaya MemoryEmails sejak lama besar LoadDatasets
(peristiwa yang lebih serius)
dan MB inUse dan kolom panggilan gc di tabel statistik. Anda dapat memberi tahu bagaimana mengencangkan memori Anda ERDDAP™ adalah dengan melihat angka ini. Nomor lebih tinggi menunjukkan lebih banyak stres.
- MB inUse harus selalu kurang dari setengah dari Pengaturan memori \-Xmx Sitemap Jumlah yang lebih besar adalah tanda yang buruk.
- panggilan gc menunjukkan jumlah kali ERDDAP™ disebut kolektor sampah untuk mencoba untuk mengurangi penggunaan memori tinggi. Jika ini akan menjadi > 100, itulah tanda masalah serius.
- shed menunjukkan jumlah permintaan masuk yang gudang (dengan nomor kesalahan HTTP 503, Layanan Tidak tersedia) karena penggunaan memori sudah terlalu tinggi. Idealnya, tidak ada permintaan yang harus disembuhkan. Tidak apa-apa jika beberapa permintaan gudang, tetapi tanda masalah serius jika banyak gudang.
- Login MemoryEmails - Jika penggunaan memori menjadi berbahaya tinggi, ERDDAP™ mengirim email ke alamat email yang tercantum dalam<Login Sitemap (di setup.xml) dengan daftar permintaan pengguna aktif. Sebagai email mengatakan, ke depan email ini ke Chris. John di noaaa. gov sehingga kami dapat menggunakan informasi untuk meningkatkan versi masa depan dari ERDDAP Sitemap
Sitemap ERDDAP™ ditekan memori:
- Pertimbangkan mengalokasikan lebih banyak memori server Anda untuk ERDDAP™ dengan mengubah Tomcat Pengaturan memori ‐Xmx Sitemap
- Jika Anda sudah dialokasikan sebanyak memori yang bisa Anda lakukan ERDDAP™ melalui -Xmx, pertimbangkan membeli lebih banyak memori untuk server Anda. Memori murah (dibandingkan dengan harga server baru atau waktu Anda) Sitemap Promo
- Sitemap datasets.xml Sitemap<nGridThreads> untuk 1, set<nTableThreads> untuk 1, dan set<Login
- Lihat permintaan di log.txt untuk inefisien atau bermasalah (tapi sah) Sitemap Tambahkan alamat IP mereka untuk<Login Sitemap datasets.xml Sitemap Pesan kesalahan daftar hitam termasuk ERDDAP™ alamat email administrator dengan harapan bahwa pengguna akan menghubungi Anda sehingga Anda dapat bekerja dengan mereka untuk menggunakan ERDDAP™ lebih efisien. Ini bagus untuk menyimpan daftar alamat IP Anda daftar hitam dan mengapa, sehingga Anda dapat bekerja dengan pengguna jika mereka menghubungi Anda.
- Lihat permintaan di log.txt untuk permintaan dari pengguna jahat. Tambahkan alamat IP mereka ke<Login Sitemap datasets.xml Sitemap Jika permintaan serupa berasal dari beberapa alamat IP serupa, Anda dapat menggunakan beberapa layanan yang-is (Login https://www.whois.com/whois/ ) untuk mengetahui berbagai alamat IP dari sumber itu dan daftar hitam seluruh jangkauan. Sitemap<Login (/docs/server-admin/datasets#requestblacklist) Sitemap
Login
Ketika Anda mengatur ERDDAP™ Anda menentukan jumlah memori maksimum yang Java dapat menggunakan melalui Pengaturan \-Xmx Sitemap Sitemap ERDDAP™ pernah membutuhkan lebih banyak memori daripada itu, itu akan membuang java. Meme it Login Login ERDDAP™ melakukan banyak pemeriksaan untuk mengaktifkannya untuk menangani kesalahan dengan anggun (misalnya, jadi permintaan yang kesulitan akan gagal, tetapi sistem mempertahankan integritasnya) Sitemap Tapi kadang-kadang, kesalahan kerusakan integritas sistem dan Anda harus restart ERDDAP Sitemap Mudah-mudahan, yang jarang.
Solusi cepat dan mudah untuk OutOfMemoryError adalah untuk meningkatkan Pengaturan \-Xmx Tapi Anda tidak boleh meningkatkan pengaturan -Xmx ke lebih dari 80% memori fisik di server (e.g., untuk server 10GB, jangan set -Xmx di atas 8GB) Sitemap Memori relatif murah, sehingga mungkin menjadi pilihan yang baik untuk meningkatkan memori di server. Tetapi jika Anda telah memaksimalkan memori di server atau karena alasan lain tidak dapat meningkatkannya, Anda perlu menangani lebih langsung dengan penyebab OutOfMemoryError.
Jika Anda melihat Login file untuk melihat apa ERDDAP™ dilakukan ketika kesalahan muncul, Anda biasanya bisa mendapatkan petunjuk yang baik seperti penyebab OutOfMemoryError. Ada banyak penyebab yang mungkin, termasuk:
- Sebuah file data besar tunggal dapat menyebabkan OutOfMemoryError, terutama, file data ASCII besar. Jika ini adalah masalah, itu harus jelas karena Meme it ERDDAP™ akan gagal untuk memuat dataset (untuk set data tabel) atau membaca data dari file tersebut (untuk dataset gridded) Sitemap Solusinya, jika layak, adalah membagi file ke beberapa file. Idealnya, Anda dapat membagi file menjadi chunks logis. Misalnya, jika file memiliki 20 bulan bernilai data, membaginya menjadi 20 file, masing-masing dengan 1 bulan bernilai data. Tapi ada kelebihan bahkan jika file utama dibagi sewenang-wenang. Pendekatan ini memiliki beberapa manfaat: a) Ini akan mengurangi memori yang diperlukan untuk membaca file data ke 1 / 20th, karena hanya satu file dibaca pada waktu. g Sering, ERDDAP™ dapat menangani permintaan lebih cepat karena hanya perlu melihat dalam satu atau beberapa file untuk menemukan data untuk permintaan yang diberikan. g Jika pengumpulan data sedang berlangsung, maka 20 file yang ada dapat tetap tidak berubah, dan Anda hanya perlu memodifikasi satu, file kecil, baru untuk menambahkan sepadan bulan berikutnya data ke dataset.
- Satu permintaan besar dapat menyebabkan OutOfMemoryError. Secara khusus, beberapa orderBy opsi memiliki seluruh respons dalam memori untuk detik (misalnya, untuk melakukan semacam) Sitemap Jika respon besar, itu dapat menyebabkan kesalahan. Akan ada beberapa permintaan yang, dengan berbagai cara, terlalu besar. Anda dapat memecahkan masalah dengan meningkatkan pengaturan -Xmx. Atau, Anda dapat mendorong pengguna untuk membuat serangkaian permintaan yang lebih kecil.
- Tidak mungkin bahwa sejumlah besar file akan menyebabkan indeks file yang ERDDAP™ membuat begitu besar bahwa file akan menyebabkan kesalahan. Jika kita menganggap bahwa setiap file menggunakan 300 byte, maka 1,000,000 file hanya akan mengambil 300MB. Tapi dataset dengan sejumlah besar file data menyebabkan masalah lain untuk ERDDAP tidak bisa, butuh waktu yang lama untuk Meme it ERDDAP™ untuk membuka semua file data tersebut ketika menanggapi permintaan pengguna untuk data. Dalam hal ini, solusi dapat mengatur file sehingga ada beberapa file data. Untuk dataset tabular, seringkali bagus jika Anda menyimpan data dari dataset saat ini Login Sitemap (Login) Bertindak file data Array (Sitemap .nc file CF dari ERDDAP ) dan kemudian membuat dataset baru. File ini dapat ditangani dengan sangat efisien dengan ERDDAP Sitemap Sitemap Sitemap Jika mereka diatur secara logis (setiap data untuk chunk ruang dan waktu) Login ERDDAP™ dapat mengekstrak data dari mereka dengan sangat cepat.
- Untuk dataset tabular yang menggunakan [< subsetVariables Sitemap (/docs/server-admin/datasets#subsetvariables) atribut, ERDDAP™ membuat tabel kombinasi unik dari nilai-nilai variabel tersebut. Untuk dataset besar atau ketika< subsetVariables > disalahpahamkan, tabel ini bisa cukup besar untuk menyebabkan OutOfMemoryErrors. Solusinya adalah menghapus variabel dari daftar daftar< subsetVariables > yang ada sejumlah besar nilai, atau menghapus variabel sesuai kebutuhan sampai ukuran tabel itu masuk akal. Bagian ERDDAP™ yang menggunakan subsetVariables sistem tidak bekerja dengan baik (e.g., halaman web memuat sangat lambat) ketika ada lebih dari 100.000 baris di tabel itu.
- Ini selalu mungkin bahwa beberapa permintaan besar simultan (benar-benar sibuk ERDDAP ) dapat menggabungkan untuk menyebabkan masalah memori. Misalnya, 8 permintaan, masing-masing menggunakan 1GB masing-masing, akan menyebabkan masalah untuk setup -Xmx=8GB. Tapi jarang bahwa setiap permintaan akan berada di puncak penggunaan memorinya secara bersamaan. Dan Anda akan dengan mudah dapat melihat Meme it ERDDAP™ benar-benar sibuk dengan permintaan besar. Tapi, mungkin. Meme it Ini sulit untuk berurusan dengan masalah ini selain dengan meningkatkan pengaturan -Xmx.
- Ada skenario lain. Jika Anda melihat Login file untuk melihat apa ERDDAP™ dilakukan ketika kesalahan muncul, Anda biasanya bisa mendapatkan petunjuk yang baik seperti penyebabnya. Dalam kebanyakan kasus, ada cara untuk meminimalkan masalah itu (lihat di atas) Tapi kadang-kadang Anda hanya perlu lebih banyak memori dan pengaturan xmx yang lebih tinggi.
Too Banyak File Terbuka
Sitemap ERDDAP™ v2.12, ERDDAP™ memiliki sistem untuk memantau jumlah file terbuka (yang mencakup soket dan beberapa hal lain, tidak hanya file) di Tomcat di komputer Linux. Jika beberapa file tidak pernah ditutup (Sebuah "kebocoran sumber daya") , jumlah file terbuka dapat meningkat sampai melebihi maksimum diperbolehkan oleh sistem operasi dan banyak hal yang benar-benar buruk terjadi. Sekarang, di komputer Linux (karena informasi tidak tersedia untuk Windows) Sitemap
- Ada kolom "Open File" di sebelah kanan status.html halaman web menunjukkan persen dari file maks terbuka. Di Windows, itu hanya menunjukkan "?".
- Sitemap ERDDAP™ menghasilkan informasi pada akhir setiap reload dataset utama, itu akan mencetak log. txt file: openFileCount= Sitemap di max= Login Sitemap Sitemap
- Jika persentasenya adalah >50%, email dikirim ke ERDDAP™ administrator dan email Sitemap Untuk alamat email.
Jika persentase 100%, ERDDAP™ adalah dalam masalah yang mengerikan. Jangan biarkan ini terjadi. Meme it Jika persentasenya adalah > 75%, ERDDAP™ dekat dengan masalah yang mengerikan. Itu tidak oke. Meme it Jika persentase adalah >50%, sangat mungkin bahwa lonjakan akan menyebabkan persentase untuk mencapai 100. Jika persentase yang pernah >50%, Anda harus:
- Meningkatkan jumlah maksimum file terbuka yang diperbolehkan oleh keduanya:
- Membuat perubahan ini setiap kali sebelum Anda mulai kemcat (menempatkan mereka di file Tomcat startup.sh?) Sitemap aneh -Hn 16384 ulimit -Sn 16384
- Atau membuat perubahan permanen dengan mengedit (sebagai akar) /etc/security/limits.conf dan menambahkan garis: tomcat nofile lembut 16384 tomcat keras nofile 16384 Perintah tersebut menganggap bahwa pengguna menjalankan Tomcat disebut "tomcat". Banyak varian Linux, Anda harus me-restart server untuk menerapkan perubahan tersebut. Untuk kedua pilihan, "16384" di atas adalah contoh. Anda memilih nomor yang Anda pikirkan terbaik.
- Login ERDDAP Sitemap Sistem operasi akan menutup file terbuka.
Permintaan yang gagal
- Aktivitas Tidak Biasa: > 25% permintaan gagal
Sebagai bagian dari setiap reloadDataset, yang biasanya setiap 15 menit, ERDDAP™ terlihat pada persentase permintaan yang gagal sejak reloadDataset terakhir. Jika itu > 25%, ERDDAP™ mengirim email ke Meme it ERDDAP™ administrator dengan subjek "Kegiatan Tidak Biasa: > 25% permintaan gagal". Email itu termasuk secara tally dekat bagian bawah berjudul "Pertanyaan Alamat IP (Login) (sejak akhir besar loaddataset) Sitemap Sitemap Ini memberi tahu Anda alamat IP komputer yang membuat permintaan yang paling gagal. Anda kemudian dapat mencari alamat IP mereka di Meme it \[ Login \] Login Login file dan melihat apa jenis permintaan yang mereka buat.
Anda dapat menggunakan nomor IP pengguna (misalnya, dengan https://whatismyipaddress.com/ip-lookup ) untuk mencoba mencari tahu siapa atau apa yang pengguna. Kadang-kadang yang akan memberitahu Anda cukup akurat bahwa pengguna Meme it (e.g., itu crawler web mesin pencari) Sitemap Sebagian besar waktu itu hanya memberi Anda petunjuk (e.g., itu adalah komputer amazonaws, itu dari beberapa universitas, itu seseorang di beberapa kota tertentu) Sitemap
Dengan melihat permintaan aktual, nomor IP, dan pesan kesalahan (Sitemap Login ) untuk serangkaian kesalahan, Anda biasanya dapat mengetahui pada dasarnya apa yang akan salah. Dalam pengalaman saya, ada empat penyebab umum dari banyak permintaan gagal:
-
permintaan berbahaya (misalnya, mencari kelemahan keamanan, atau membuat permintaan dan kemudian membatalkannya sebelum selesai) Sitemap Anda harus menggunakan<Login Sitemap datasets.xml untuk daftar hitam alamat IP mereka.
-
Mesin pencari secara naif mencoba URL yang tercantum dalam ERDDAP™ Halaman web dan dokumen ISO 19115. Misalnya, ada banyak tempat yang mencantumkan dasar OPeNDAP URL, misalnya,https://coastwatch.pfeg.noaa.gov/erddap/griddap/jplMURSST, dimana pengguna seharusnya menambahkan jenis file (g., .das, .dds, Login) Sitemap Tapi mesin pencari tidak tahu ini. Dan permintaan ke URL dasar gagal. Situasi terkait adalah ketika mesin pencari menghasilkan permintaan yang aneh atau mencoba mengisi formulir untuk mendapatkan halaman web "hidden". Tapi mesin pencari sering melakukan pekerjaan yang buruk dari ini, menyebabkan kegagalan. Solusinya adalah: buat WordPress.org Login
-
Beberapa pengguna menjalankan skrip yang berulang kali meminta sesuatu yang tidak ada. Mungkin itu adalah dataset yang digunakan untuk ada, tetapi sekarang (sementara atau permanen) Sitemap Script sering tidak mengharapkan ini dan jadi jangan berurusan dengan itu cerdas. Jadi script hanya membuat permintaan dan permintaan tetap gagal. Jika Anda dapat menebak siapa pengguna Meme it (dari nomor IP di atas) Hubungi mereka dan beri tahu mereka dataset tidak lagi tersedia dan meminta mereka untuk mengubah skrip mereka.
-
Sesuatu benar-benar salah dengan beberapa dataset. Sitemap ERDDAP™ akan membuat dataset yang rusak tidak aktif. Kadang-kadang tidak, sehingga semua permintaan untuk itu hanya menyebabkan kesalahan. Jika demikian, perbaiki masalah dengan dataset atau (jika Anda tidak bisa Meme it) mengatur dataset untuk aktif="false" Sitemap Tentu saja, ini dapat menyebabkan masalah #2.
Kadang-kadang kesalahan tidak begitu buruk, tidak bisa, jika ERDDAP™ dapat mendeteksi kesalahan dan merespon dengan sangat cepat (<100 g Jadi Anda dapat memutuskan untuk tidak mengambil tindakan.
Jika semua gagal lain, ada solusi universal: tambahkan nomor IP pengguna ke [<Login (/docs/server-admin/datasets#requestblacklist) Sitemap Ini bukan sebagai pilihan yang buruk atau drastis karena mungkin tampak. Pengguna kemudian akan mendapatkan pesan kesalahan mengatakan s/he telah daftar hitam dan memberitahu mereka (Login ERDDAP™ Login) Alamat email. Terkadang pengguna akan menghubungi Anda dan Anda dapat menyelesaikan masalah. Kadang-kadang pengguna tidak menghubungi Anda dan Anda akan melihat perilaku yang sama persis yang berasal dari nomor IP yang berbeda hari berikutnya. Blacklist nomor IP baru dan berharap bahwa mereka akhirnya akan mendapatkan pesan. (Atau ini adalah Hari Groundhog Anda, dari mana Anda tidak akan pernah melarikan diri. Login)
WordPress.org
Perusahaan mesin pencari menggunakan crawler web (Sitemap Login) untuk memeriksa semua halaman di web untuk menambahkan konten ke mesin pencari. Sitemap ERDDAP™ , itu pada dasarnya baik. Meme it ERDDAP™ memiliki banyak tautan antara halaman, sehingga crawler akan menemukan semua halaman web dan menambahkannya ke mesin pencari. Kemudian, pengguna mesin pencari akan dapat menemukan dataset di Anda ERDDAP Sitemap
Sayangnya, beberapa crawler web (Sitemap Login) sekarang mengisi dan mengirimkan formulir untuk menemukan konten tambahan. Untuk situs web perdagangan, ini sangat bagus. Tapi ini mengerikan untuk Meme it ERDDAP™ karena itu hanya mengarah ke Meme it Login jumlah upaya yang tidak diinginkan dan tak terhitung guna merangkak data yang sebenarnya. Ini dapat menyebabkan lebih banyak permintaan data dari semua pengguna lain yang digabungkan. Dan mengisi mesin pencari dengan goofy, subset tanpa titik data sebenarnya.
Untuk memberi tahu crawler web untuk menghentikan mengisi formulir dan hanya umumnya tidak melihat halaman web mereka tidak perlu melihat, Anda perlu membuat file teks yang disebut WordPress.org dalam direktori akar hierarki dokumen situs web Anda sehingga dapat dilihat oleh siapa pun, misalnya,http://*www.your.domain*/robots.txtSitemap Jika Anda membuat robot baru. txt file, ini adalah awal yang baik:
User-Agent: \\*
Disallow: /erddap/files/
Disallow: /files/
Disallow: /images/
Disallow: /\\*?
Disallow: /\\*?\\*
Disallow: /\\*.asc\\*
Disallow: /\\*.csv\\*
Disallow: /\\*.dods\\*
Disallow: /\\*.esriAscii\\*
Disallow: /\\*.esriCsv\\*
Disallow: /\\*.geoJson\\*
Disallow: /\\*.htmlTable\\*
Disallow: /\\*.json\\*
Disallow: /\\*.mat\\*
Disallow: /\\*.nc\\*
Disallow: /\\*.odvTxt\\*
Disallow: /\\*.tsv\\*
Disallow: /\\*.xhtml\\*
Disallow: /\\*.geotif\\*
Disallow: /\\*.itx\\*
Disallow: /\\*.kml\\*
Disallow: /\\*.pdf\\*
Disallow: /\\*.png\\*
Disallow: /\\*.large\\*
Disallow: /\\*.small\\*
Disallow: /\\*.transparentPng\\*
Sitemap: http://***your.institutions.url***/erddap/sitemap.xml
(Tapi ganti WordPress.org Login ERDDAP URL dasar.)
Ini mungkin diperlukan beberapa hari untuk mesin pencari untuk melihat dan untuk perubahan untuk mengambil efek.
Login
Sitemap https://www.sitemaps.org situs web mengatakan:
Sitemaps are an easy way for webmasters to inform search engines about pages on their sites that are available for crawling. In its simplest form, a Sitemap is an XML file that lists URLs for a site along with additional metadata about each URL (when it was last updated, how often it usually changes, and how important it is, relative to other URLs on the site) so that search engines can more intelligently crawl the site.
Web crawlers usually discover pages from links within the site and from other sites. Sitemaps supplement this data to allow crawlers that support Sitemaps to pick up all URLs in the Sitemap and learn about those URLs using the associated metadata. Using the Sitemap protocol does not guarantee that web pages are included in search engines, but provides hints for web crawlers to do a better job of crawling your site.
Sebenarnya, sejak ERDDAP™ Sitemap RESTful , laba-laba mesin pencari dapat dengan mudah merangkak ERDDAP Sitemap Tapi mereka cenderung melakukannya lebih sering Meme it (Sitemap) Sitemap (bulanan?) Sitemap
- Mengingat bahwa setiap mesin pencari dapat merangkak seluruh Anda ERDDAP™ setiap hari, ini dapat menyebabkan banyak permintaan yang tidak perlu.
- Login ERDDAP™ menghasilkan file sitemap.xml untuk Anda ERDDAP™ yang memberitahukan mesin pencari yang Anda ERDDAP™ hanya perlu merangkak setiap bulan.
- Anda harus menambahkan referensi ke ERDDAP 's sitemap.xml untuk Anda WordPress.org file: Sitemaphttp://**www.yoursite.org**/erddap/sitemap.xml
- Jika itu tidak tampaknya mendapatkan pesan ke crawler, Anda dapat memberitahu berbagai mesin pencari tentang file sitemap.xml dengan mengunjungi URL ini (tapi perubahan Login ke akronim atau singkatan institusi Anda www.facebook.com Anda ERDDAP URL) Sitemap
- https://www.bing.com/webmaster/ping.aspx?siteMap=http://**www.yoursite.org**/erddap/sitemap.xml
- https://www.google.com/ping?sitemap=http://**www.yoursite.org**/erddap/sitemap.xml(Iberpikir) Anda hanya perlu ping setiap mesin pencari sekali, untuk semua waktu. Mesin pencari kemudian akan mendeteksi perubahan ke sitemap.xml secara berkala.
Database Jaringan: Push Login Pull Sitemap
- Sitemap ERDDAP™ bertindak sebagai perantara: dibutuhkan permintaan dari pengguna; mendapatkan data dari sumber data jarak jauh; memformat data; dan mengirimkannya ke pengguna.
- Pull Sitemap Sitemap ERDDAP™ juga memiliki kemampuan untuk secara aktif mendapatkan semua data yang tersedia dari sumber data jarak jauh dan menyimpan salinan lokal data Sitemap
- Push Sitemap Sitemap Dengan menggunakan ERDDAP Sitemap Layanan berlangganan server data lain dapat diberitahu segera setelah data baru tersedia sehingga mereka dapat meminta data (dengan menarik data) Sitemap
- ERDDAP Sitemap EDDGrid Login Login Login Sitemap ERDDAP Layanan berlangganan dan sistem bendera sehingga akan segera diberitahukan ketika data baru tersedia.
- Anda dapat menggabungkan ini dengan efek besar: jika Anda membungkus EDDGrid Fotokopi EDDGrid DariErddap dataset (atau membungkus EDDTableCopy di sekitar dataset EDDTableDariErddap) Login ERDDAP™ akan secara otomatis membuat dan memelihara salinan lokal lain ERDDAP dataset.
- Karena layanan berlangganan bekerja segera setelah data baru tersedia, mendorong teknologi menyebarkan data dengan sangat cepat (dalam detik) Sitemap
Arsitektur ini menempatkan setiap ERDDAP™ administrator dalam mengisi determining di mana data untuk nya ERDDAP™ Sitemap
- Sitemap ERDDAP™ administrator dapat melakukan hal yang sama. Tidak perlu koordinasi antara administrator.
- Sitemap ERDDAP™ administrator link ke masing-masing ERDDAP Jaringan distribusi data terbentuk.
- Data akan cepat, efisien, dan secara otomatis menyebar dari sumber data ( ERDDAP Web server) ke situs redistribusi data ( ERDDAP Login) di mana saja di jaringan.
- Sitemap ERDDAP™ dapat menjadi sumber data untuk beberapa dataset dan situs redistribusi untuk dataset lain.
- Jaringan yang dihasilkan kira-kira mirip dengan jaringan distribusi data yang ditetapkan dengan program-program seperti Unidata IDD/IDM tetapi kurang terstruktur.
Keamanan, Otentikasi, dan Otorisasi
Login ERDDAP™ berjalan sebagai server publik sepenuhnya (Login http dan/atau https ) Login ( Sitemap ) sistem dan tidak ada batasan akses data ( Login ) Sitemap
Login
Jika Anda ingin membatasi akses ke beberapa atau semua dataset ke beberapa pengguna, Anda dapat menggunakan ERDDAP Sistem keamanan bawaan. Ketika sistem keamanan digunakan:
- ERDDAP™ Login kontrol akses berbasis peran Sitemap
- Login ERDDAP™ administrator mendefinisikan pengguna dengan [<pengguna> (/docs/server-admin/datasets#user) Login datasets.xml Sitemap Setiap pengguna memiliki nama pengguna, kata sandi (jika otentikasi = kustom) , dan satu atau lebih peran.
- Login ERDDAP™ administrator mendefinisikan peran yang memiliki akses ke dataset yang diberikan melalui [<Login (/docs/server-admin/dataset#accessibleto) Login datasets.xml untuk setiap dataset yang seharusnya tidak memiliki akses publik.
- Status login pengguna (dan tautan untuk masuk / keluar) akan ditampilkan di bagian atas setiap halaman web. (Tapi login pengguna akan muncul ERDDAP™ tidak masuk jika dia menggunakan Meme it http URL)
- Sitemap<baseUrl> yang Anda tentukan dalam setup Anda.xml adalah ** http ** URL, pengguna yang tidak masuk dapat digunakan ERDDAP Sitemap ** http ** URL Sitemap<baseHttpsUrl> juga ditentukan, pengguna yang tidak masuk juga dapat menggunakan https URL
- HTTPS Hanya -- Sitemap<baseUrl> yang Anda tentukan dalam setup Anda.xml adalah ** https ** URL, pengguna yang tidak login didorong (tidak dipaksa) Sitemap ERDDAP Sitemap ** https ** URL -- semua link di ERDDAP™ halaman web akan merujuk ke https URL
Jika Anda ingin memaksa pengguna untuk menggunakan https URL, tambahkan garis permanen Redirect di dalam<VirtualHost \ *:80> bagian dalam file konfigurasi Apache Anda (Sitemap http Login) Sitemap
<VirtualHost \\*:80>
\\[...\\]
ServerName example.com
Redirect permanent / https://example.com/
</VirtualHost>
Jika Anda ingin, ada metode tambahan untuk memaksa penggunaan https: Keamanan Transportasi HTTP (Login) Sitemap Untuk menggunakannya:
- Aktifkan Modul Header Apache: header a2enmod
- Tambahkan header tambahan ke arah arah HTTPS VirtualHost. Max-age diukur dalam detik dan dapat diatur ke beberapa nilai panjang.
<VirtualHost \\*:443>
# Guarantee HTTPS for 1 Year including Sub Domains
Header always set Strict-Transport-Security "max-age=31536000; includeSubDomains"
Harap dicatat bahwa header ini hanya berlaku di HTTPS VirtualHost.
Alasan tidak memaksa pengguna untuk menggunakan https URL adalah: link SSL/TLS yang mendasari diperlukan waktu untuk menetapkan dan kemudian mengambil waktu untuk mengenkripsi dan mengenkripsi semua informasi yang dikirimkan antara pengguna dan server. Tapi beberapa lembaga memerlukan https Sitemap
- Pengguna yang masuk dalam penggunaan MUST ERDDAP Sitemap ** https ** URL Jika mereka menggunakan http URL, mereka muncul ERDDAP™ tidak masuk. Ini memastikan privasi komunikasi dan membantu mencegah sesi pembajak dan pembajak Sitemap
- Siapa pun yang tidak masuk dapat mengakses dan menggunakan dataset publik. Secara default, dataset pribadi tidak muncul dalam daftar dataset jika pengguna tidak masuk. Jika administrator telah mengatur setup.xml's<Login Tempts untuk meminta data dari dataset pribadi (jika pengguna mengetahui URL) akan diarahkan ke halaman login.
- Siapa pun yang masuk akan dapat melihat dan meminta data dari dataset publik dan dataset pribadi mana peran mereka memungkinkan mereka mengakses. Secara default, dataset pribadi yang pengguna tidak memiliki akses tidak muncul dalam daftar dataset. Jika administrator telah mengatur setup.xml's<Login Untuk meminta data dari dataset pribadi yang pengguna tidak memiliki akses akan diarahkan ke halaman login.
- Login RSS informasi untuk set data pribadi sepenuhnya hanya tersedia untuk pengguna (Login RSS Login) yang masuk dan berwenang untuk menggunakan dataset. Ini membuat RSS tidak berguna untuk set data pribadi sepenuhnya.
Jika dataset adalah pribadi tetapi [<Login (/docs/server-admin/dataset#graphsaccessibleto) diatur ke publik, dataset RSS dapat diakses oleh siapa pun.
- Langganan email hanya dapat diatur ketika pengguna memiliki akses ke dataset. Jika pengguna berlangganan dataset pribadi, berlangganan terus berfungsi setelah pengguna telah login.
Pengaturan Keamanan
Untuk mengatur sistem keamanan/pengobatan/penerahan:
- Apakah standar ERDDAP™ pengaturan awal Sitemap
- Sitemap WordPress.org Login
- Tambahkan/ubah<Sitemap nilai dari apa-apa untuk kustom (tidak menggunakan ini Meme it) Sitemap (tidak menggunakan ini Meme it) Login (Sitemap) Login (Sitemap) , atau oauth2 (yang google+orcid, dianjurkan) Sitemap Lihat komentar tentang opsi ini di bawah ini.
- Tambahkan/ubah<baseHttpsUrl> nilai.
- Login &loginInfo; Sitemap<startBodyHtml> untuk menampilkan log pengguna di / keluar info di bagian atas setiap halaman web.
- Untuk tujuan pengujian pada komputer pribadi Anda, ikuti petunjuk ini untuk mcat untuk mendukung SSL (dasar https Login) dengan membuat toko kunci dengan sertifikat mandiri dan dengan memodifikasi Login /conf/server.xml untuk uncomment konektor untuk port 8443. Pada Windows, Anda mungkin perlu memindahkan .keystore dari "c:\Users\ Login \.keystore" untuk "c:\Users\Default User\.keystore" atau "c:\.keystore" (Login Login Login Sitemap .log jika aplikasi tidak memuat atau pengguna tidak dapat melihat log di halaman) Sitemap Anda dapat melihat ketika sertifikat .keystore akan berakhir dengan memeriksa sertifikat ketika Anda masuk.
Untuk server yang dapat diakses secara publik, bukan menggunakan sertifikat yang ditetapkan sendiri, sangat dianjurkan bahwa Anda membeli dan menginstal sertifikat yang ditandatangani oleh sebuah otoritas sertifikat karena memberikan jaminan lebih banyak klien Anda bahwa mereka memang terhubung ke Anda Meme it ERDDAP™ bukan versi man-in-the-middle dari Anda ERDDAP Sitemap Banyak vendor jual sertifikat digital. (Login) Mereka tidak mahal.
- Pada komputer Linux, jika Tomcat berjalan di Apache, memodifikasi /etc/ http d/conf.d/ssl.conf file untuk memungkinkan lalu lintas HTTPS ke/dari ERDDAP™ tanpa memerlukan nomor port:8443 di URL:
- Modifikasi yang ada<VirtualHost> tag (jika ada satu) atau tambahkan satu di akhir file sehingga setidaknya memiliki garis-garis ini:
<VirtualHost \\_default\\_:443>
SSLEngine on
SSLProxyEngine On
ProxyPass /erddap http://localhost:8443/erddap
ProxyPassReverse /erddap http://localhost:8443/erddap
</VirtualHost>
- Kemudian restart Apache: /usr/sbin/apachectl Login (tetapi kadang-kadang dalam direktori yang berbeda) Sitemap
- Sitemap Login /conf/server.xml, uncomment port=8443<Konektor> tag:
<Connector port="8443"
protocol="org.apache.coyote.http11.Http11NioProtocol"
maxThreads="150" SSLEnabled="true">
<SSLHostConfig>
<Certificate certificateKeystoreFile="conf/localhost-rsa.jks"
type="RSA" />
</SSLHostConfig>
</Connector>
dan mengubah lokasi sertifikatKeystoreFile.
Login
- Sitemap datasets.xml , buat Sitemap<pengguna> (/docs/server-admin/datasets#user) tag untuk setiap pengguna dengan username, password (jika otorisasi = kustom) , dan peran informasi. Ini adalah bagian otorisasi ERDDAP 's sistem keamanan.
- Sitemap datasets.xml Promo<Login (/docs/server-admin/dataset#accessibleto) tag untuk setiap dataset yang seharusnya tidak memiliki akses publik.<dapat diakses> memungkinkan Anda menentukan peran yang memiliki akses ke dataset tersebut.
- Login Login Cek log Tomcat.
- LIHAT KERJA ANDA! Setiap kesalahan dapat menyebabkan kekurangan keamanan.
- Periksa bahwa halaman login menggunakan https (Login http ) Sitemap Login http harus secara otomatis diarahkan ke Meme it https dan port 8443 (meskipun nomor port dapat disembunyikan melalui proxy Apache) Sitemap Anda mungkin perlu bekerja dengan administrator jaringan Anda untuk memungkinkan permintaan web eksternal untuk mengakses port 8443 di server Anda.
- Anda dapat mengubah<pengguna> dan<dapat diakses> tag setiap saat. Perubahan akan diterapkan pada beban rutin berikutnya dari setiap dataset, atau ASAP jika Anda menggunakan Login Sitemap
Sitemap
**Sitemap (login) **
Jika Anda tidak ingin memungkinkan pengguna untuk masuk, tidak menentukan nilai untuk<otentikasi> dalam setup.xml.
Jika Anda ingin memungkinkan pengguna untuk masuk, Anda harus menentukan nilai untuk<Sitemap Sitemap ERDDAP™ Login
Sitemap (tidak menggunakan ini Meme it) Login
Sitemap (tidak menggunakan ini Meme it) Login
Login (Sitemap) Login
Login (Sitemap) Sitemap
Login (Sitemap) untuk metode otentikasi.
Jika Anda ingin mengaktifkan penebangan, kami sangat menyarankan google, orcid, atau opsi oauth2 karena mereka membebaskan Anda dari menyimpan dan menangani kata sandi pengguna (diperlukan untuk kustom) dan lebih aman daripada opsi email. Ingat bahwa pengguna sering menggunakan kata sandi yang sama di situs yang berbeda. Jadi mereka dapat menggunakan kata sandi yang sama untuk Anda ERDDAP™ sebagai bank mereka. Meme it Itu membuat password mereka sangat berharga - jauh lebih berharga bagi pengguna daripada hanya data yang mereka minta. Jadi Anda perlu melakukan sebanyak yang Anda dapat menyimpan kata sandi pribadi. Itu adalah tanggung jawab besar. Email, google, orcid, dan pilihan oauth2 mengurus password, sehingga Anda tidak harus mengumpulkan, menyimpan, atau bekerja dengan mereka. Jadi Anda dibebaskan dari tanggung jawab tersebut.
Sitemap<otentikasi> pilihan menggunakan Login di komputer pengguna, jadi browser pengguna harus diatur untuk mengizinkan cookie. Jika pengguna membuat ERDDAP™ permintaan dari program komputer (bukan browser) , cookie dan otentikasi sulit untuk bekerja dengan. Itu masalah umum dengan semua sistem otentikasi. Login
Detail dari<Sitemap pilihan:
Sitemap
Sitemap ERDDAP Sistem kustom untuk memungkinkan pengguna masuk dengan memasukkan Nama Pengguna dan Sandi mereka dalam bentuk di halaman web. Jika pengguna mencoba dan gagal masuk 3 kali dalam 10 menit, pengguna diblokir dari mencoba masuk selama 10 menit. Ini mencegah peretas dari hanya mencoba jutaan kata sandi sampai mereka menemukan yang tepat.
Ini agak aman karena Nama Pengguna dan Sandi ditransmisikan melalui https (Login http ) tapi otentikasi=google, orcid, atau oauth2 lebih baik karena mereka membebaskan Anda dari harus menangani password. Pendekatan kustom mengharuskan Anda mengumpulkan nama pengguna dan pencernaan kata sandi mereka (gunakan ponsel Anda! email tidak aman!) dan menyimpannya di Meme it datasets.xml di [<pengguna> (/docs/server-admin/datasets#user) Login
Dengan opsi kustom, tidak ada yang bisa masuk sampai Anda (Login ERDDAP™ Login) Sitemap<pengguna> tag untuk pengguna, menentukan nama pengguna sebagai nama pengguna, pencernaan kata sandi mereka sebagai kata sandi, dan peran mereka.
Sitemap Karena kelemahan menghasilkan dan mentransmisikan hash pencernaan kata sandi pengguna dan karena risiko yang terkait dengan ERDDAP™ menahan pencernaan kata sandi, opsi ini tidak dianjurkan.
Untuk meningkatkan keamanan opsi ini:
- Anda MUST memastikan bahwa pengguna lain di server (i.e., pengguna Linux, tidak ERDDAP™ Login) tidak dapat membaca file di direktori Tomcat (terutama datasets.xml Login) Sitemap ERDDAP Sitemap
Pada Linux, sebagai user=tomcat, gunakan:
g-rwx Login
Login Login
g-rwx Login
Login Login
- Gunakan UEPSHA256 untuk<passwordEncoding> dalam setup.xml.
- Gunakan metode yang mudah digunakan untuk melewati gangguan hash dari kata sandi pengguna dari pengguna ke pengguna ERDDAP™ Login (Login) Sitemap
Sitemap
Opsi otentikasi email menggunakan akun email pengguna untuk mengotentikasikan pengguna (dengan mengirimkan email dengan link khusus yang harus mereka akses untuk masuk) Sitemap Tidak seperti email lain yang Meme it ERDDAP™ Sitemap ERDDAP™ tidak menulis email undangan ini ke file log email karena berisi informasi rahasia. Secara teori, ini tidak sangat aman, karena email tidak selalu dienkripsi, jadi pria buruk dengan kemampuan untuk mencegat email dapat menyalahgunakan sistem ini dengan menggunakan alamat email pengguna yang valid dan mencegat email undangan. Dalam praktek, jika Anda mengatur ERDDAP™ untuk menggunakan akun email Google untuk mengirim email, dan jika Anda mengaturnya untuk menggunakan salah satu opsi TLS untuk koneksi, dan jika pengguna memiliki akun email Google, ini agak aman karena email dienkripsi semua cara dari ERDDAP™ kepada pengguna.
Untuk meningkatkan keamanan opsi ini:
- Pastikan pengguna lain di server (i.e., pengguna Linux, tidak ERDDAP™ Login) tidak dapat membaca file di direktori Tomcat atau ERDDAP Sitemap
Pada Linux, sebagai user=tomcat, gunakan:
g-rwx Login
Login Login
g-rwx Login
Login Login
- Mengatur hal-hal untuk mendapatkan keamanan end-to-end untuk email yang dikirim dari ERDDAP™ kepada pengguna. Misalnya, Anda bisa membuat sistem yang tersentris Google hanya dengan membuat<pengguna> tag untuk alamat email yang dikelola Google dan dengan mengatur Anda ERDDAP™ untuk menggunakan server email Google melalui koneksi yang aman/TLS: di setup Anda.xml, gunakan misalnya,
<emailSmtpHost>smtp.gmail.com</emailSmtpHost>
<emailSmtpPort>587</emailSmtpPort>
<emailProperties>mail.smtp.starttls.enable|true</emailProperties>
Sitemap Opsi otentikasi email tidak dianjurkan. Silahkan gunakan opsi google, orcid, atau oauth2.
Seperti dengan google, orcid, dan pilihan oauth2, email sangat nyaman untuk ERDDAP™ administrator -- Anda tidak pernah harus berurusan dengan password atau pencernaan hash mereka. Yang perlu Anda buat adalah [<pengguna> (/docs/server-admin/datasets#user) tag untuk pengguna dalam datasets.xml adalah alamat email pengguna, yang ERDDAP™ menggunakan nama pengguna. (Atribut kata sandi tidak digunakan ketika otentikasi=email, google, orcid, atau oauth2.)
Dengan opsi email, hanya pengguna yang memiliki<pengguna> tag di datasets.xml dapat mencoba untuk masuk ke ERDDAP™ dengan menyediakan alamat email dan mengklik tautan di email yang ERDDAP™ mengirimkannya.
ERDDAP™ memperlakukan alamat email sebagai case-insensitif. Ini melakukan ini dengan mengkonversi alamat email Anda masukkan (dalam<pengguna> tag) atau pengguna masuk (Login) untuk semua versi yang lebih rendah. Meme it
Untuk mengatur otentikasi=email:
- Di setup.xml Anda, ubah<baseHttpsUrl> nilai tag.
Untuk bereksperimen / bekerja pada komputer pribadi Anda, gunakan
https://localhost:8443
Untuk publik Anda ERDDAP™ Sitemap https://your.domain.org:8443
atau tanpa :8443 jika Anda menggunakan Apache Login sehingga nomor port tidak diperlukan. Meme it - Di setup.xml Anda, ubah<Sitemap nilai tag ke email:
<authentication>email</authentication>
- Dalam setup.xml Anda, pastikan sistem email diatur melalui semua<email...> tag, sehingga ERDDAP™ dapat mengirim email. Jika memungkinkan, atur ini untuk menggunakan koneksi yang aman (SSL / TLS) ke server email.
- Sitemap datasets.xml Sitemap<pengguna> (/docs/server-admin/datasets#user) tag untuk setiap pengguna yang akan memiliki akses ke dataset pribadi. Gunakan alamat email pengguna sebagai nama pengguna dalam tag. Jangan menentukan atribut kata sandi dalam tag pengguna.
- Login ERDDAP™ sehingga perubahan pada setup.xml dan datasets.xml mengambil efek.
Facebook Twitter
- Login Login Login Sitemap Login (Sitemap)
Semua tiga opsi ini direkomendasikan ERDDAP™ Opsi otentikasi. Mereka adalah semua pilihan yang paling aman. Pilihan lain memiliki keamanan yang lebih lemah.
Login
- Opsi otentikasi google menggunakan Login Sitemap , yang merupakan implementasi protokol otentikasi OAuth 2.0 Sitemap ERDDAP™ pengguna masuk ke akun email Google mereka, termasuk akun yang dikelola Google seperti @noaa.gov Login Hal ini memungkinkan ERDDAP™ untuk memverifikasi identitas pengguna (nama dan alamat email) dan mengakses gambar profil mereka, tetapi tidak memberikan ERDDAP™ akses ke email mereka, Google Drive mereka, atau informasi pribadi lainnya.
Sitemap ERDDAP™ v2.22 dan di bawah ini, ERDDAP™ "Google Sign-In". Google mengatakan bahwa sistem didepresi setelah 31 Maret 2023. Jika Anda belum selesai, silakan beralih ke Meme it ERDDAP™ v2.23 + untuk menggunakan sistem otentikasi berbasis Google.
Sitemap ERDDAP™ v2.23 contoh dengan Content-Security-Policy dikonfigurasi dan menggunakan Google Authentication, Anda perlu menambahkanhttps://accounts.google.comke daftar script-src yang diperbolehkan (atau script-src-elem) Sitemap ERDDAP™ tidak lagi digunakanhttps://apis.google.comJika Anda memiliki yang diperbolehkan, Anda dapat menghapusnya sekarang.
Sitemap ERDDAP™ v2.24 + Anda mungkin juga perlu menambahkanhttps://accounts.google.com/gsi/styleuntuk stlye-src danhttps://accounts.google.com/gsi/untuk menghubungkan-src. Untuk script-src Anda sekarang dapat menggunakanhttps://accounts.google.com/gsi/client.
Untuk informasi lebih lanjut, Anda dapat pergi ke Sitemap tentang konfigurasi CSP. Jika Anda memiliki pertanyaan, hubungi chris.john di noaaaa.gov.
Login
- Opsi otentikasi orcid menggunakan Orcid otentikasi , yang merupakan implementasi protokol otentikasi OAuth 2.0 Sitemap ERDDAP™ pengguna masuk ke Login , yang biasa digunakan oleh para peneliti untuk mengidentifikasi diri mereka sendiri. Hal ini memungkinkan ERDDAP™ untuk memverifikasi identitas Orcid pengguna dan mendapatkan nomor akun Orcid mereka, tetapi tidak memberikan ERDDAP™ akses ke informasi akun Orcid lainnya.
Login
- Opsi oauth2 memungkinkan pengguna masuk dengan akun Google atau akun Orcid mereka.
Opsi google, orcid, dan oauth2 adalah penerus untuk opsi openid, yang dihentikan setelah ERDDAP™ versi 1.68, dan yang didasarkan pada versi terbuka Login Silakan beralih ke opsi google, orcid, atau oauth2.
Pilihan ini sangat nyaman untuk ERDDAP™ administrator -- Anda tidak pernah harus berurusan dengan password atau pencernaan hash mereka. Yang perlu Anda buat adalah [<pengguna> (/docs/server-admin/datasets#user) tag untuk pengguna dalam datasets.xml yang menentukan alamat email Google pengguna atau nomor akun Orcid sebagai atribut username. (Atribut kata sandi tidak digunakan ketika otentikasi=email, google, orcid atau oauth2.)
Dengan opsi ini, siapa pun bisa masuk ke ERDDAP™ dengan menandatangani akun email atau akun Orcid Google mereka, tetapi tidak ada yang akan memiliki hak untuk mengakses dataset pribadi sampai Anda (Login ERDDAP™ Login) Sitemap<pengguna> tag, menentukan alamat email Google atau nomor akun Orcid mereka sebagai username, dan menentukan peran mereka.
ERDDAP™ memperlakukan alamat email sebagai case-insensitif. Ini melakukan ini dengan mengkonversi alamat email Anda masukkan (dalam<pengguna> tag) atau pengguna masuk (Login) untuk semua versi yang lebih rendah. Meme it
Untuk mengatur otentikasi google, orcid, atau oauth2:
- Di setup.xml Anda, ubah<baseHttpsUrl> nilai tag.
Untuk bereksperimen / bekerja pada komputer pribadi Anda, gunakan
https://localhost:8443
Untuk publik Anda ERDDAP™ Sitemap https://your.domain.org:8443
atau, lebih baik, tanpa :8443 jika Anda menggunakan Apache Login sehingga nomor port tidak diperlukan. Meme it - Di setup.xml Anda, ubah<Sitemap nilai tag ke google, orcid, atau oauth2, misalnya:
<authentication>oauth2</authentication>
Pengaturan Google
- Untuk pilihan google dan oauth2:
Ikuti petunjuk di bawah ini untuk mengatur otentikasi Google untuk Anda ERDDAP Sitemap
- Jika Anda tidak memiliki akun email Google, membuat satu
- Sitemap petunjuk ini untuk membuat proyek Google Developers Console dan mendapatkan ID klien.
- Jika Anda tidak memiliki akun email Google, membuat satu
Ketika formulir Google meminta untuk resmi Java Asal-usul script, masukkan nilai dari<baseHttpsUrl> dari komputer pribadi Anda ERDDAP™ WordPress.org
https://localhost:8443
Pada garis kedua, tambahkan<baseHttpsUrl ERDDAP™ WordPress.org
https://your.domain.org:8443
Jangan menentukan URIs yang diarahkan.
Ketika Anda melihat ID Klien Anda untuk proyek ini, menyalin dan menempelkannya ke dalam setup Anda.xml (biasanya di bawah ini<autentikasi> untuk diurutkan, tetapi penempatan tidak benar-benar masalah), di<googleClientID> tag, e.g., <Login Login <Login ID klien akan menjadi string dari sekitar 75 karakter, mungkin dimulai dengan beberapa digit dan berakhir dengan .apps.googleusercontent.com .
-
Sitemap datasets.xml membuat [<pengguna> (/docs/server-admin/datasets#user) tag untuk setiap pengguna yang akan memiliki akses ke dataset pribadi. Untuk atribut username dalam tag:
- Untuk pengguna yang akan masuk ke google, gunakan alamat email Google pengguna.
- Untuk pengguna yang akan masuk dengan orcid, gunakan nomor akun Orcid pengguna (dengan dasbor) Sitemap
Jangan menentukan atribut kata sandi untuk tag pengguna. 4. Login ERDDAP™ sehingga perubahan pada setup.xml dan datasets.xml mengambil efek.
Pengaturan Orcid
- Untuk pilihan orcid dan oauth2:
Ikuti petunjuk di bawah ini untuk mengatur otentikasi Orcid untuk Anda ERDDAP Sitemap
(Untuk detail, lihat Dokumentasi API orcid Sitemap)
- Jika Anda tidak memiliki akun Orcid, membuat satu
- Login https://orcid.org/signin menggunakan akun Orcid pribadi Anda.
- Klik pada "Developer Tools" (di bawah "Untuk peneliti" di bagian atas) Sitemap
- Klik pada "Daftar API publik ORCID gratis". Masukkan informasi ini:
Nama: ERDDAP™ Sitemap \[ organisasi Anda \]
Web: \[ Login ERDDAP domain \]
Deskripsi: ERDDAP™ adalah server data ilmiah. Pengguna perlu otentikasi dengan Google atau Orcid untuk mengakses dataset non-publik. Login: \[ Login ERDDAP domain \] /erddap/loginOrcid.html - Klik ikon Save (itu terlihat seperti disk 3,5 "!) Sitemap Anda kemudian dapat melihat ID Klien ORCID APP Anda dan ORCID Klien Rahasia.
- Copy dan paste ID Klien Aplikasi ORCID (yang akan dimulai dengan "APP-") ke dalam setup.xml di<e.g.,
- Jika Anda tidak memiliki akun Orcid, membuat satu
<orcidClientID>APP-*ALPHANUMERICCHARACTERS*</orcidClientID>
- Salin dan tempel Klien ORCID Rahasia (huruf kecil karakter alfa-numerik dengan dasbor) ke dalam setup.xml di<orcidClientSecret> tag, misalnya,
<orcidClientSecret>*alpha-numeric-characters-with-dashes*</orcidClientSecret>
-
Sitemap datasets.xml membuat [<pengguna> (/docs/server-admin/datasets#user) tag untuk setiap pengguna yang akan memiliki akses ke dataset pribadi. Untuk atribut username dalam tag:
- Untuk pengguna yang akan masuk ke google, gunakan alamat email Google pengguna.
- Untuk pengguna yang akan masuk dengan orcid, gunakan nomor akun Orcid pengguna (dengan dasbor) Sitemap
Jangan menentukan atribut kata sandi untuk tag pengguna. 9. Login ERDDAP™ sehingga perubahan pada setup.xml dan datasets.xml mengambil efek.
Login
Jika Anda menggunakan opsi otentikasi google, orcid, atau oauth2, dan API Authentication Google Sign-In atau Orcid tiba-tiba berhenti bekerja (untuk alasan apa pun) atau berhenti bekerja ERDDAP™ mengharapkan, pengguna tidak akan dapat masuk ke Anda ERDDAP Sitemap Sebagai sementara (atau permanen) solusi, Anda dapat meminta pengguna untuk mendaftar dengan sistem lain (Dapatkan akun email Google, atau dapatkan akun Orcid) Sitemap Untuk melakukannya:
- Login<otentikasi> tag sehingga memungkinkan sistem otentikasi lainnya. Opsi oauth2 memungkinkan pengguna untuk masuk dengan sistem.
- Duplikat masing-masing<pengguna> tag dan mengubah atribut username dari alamat email Google ke nomor akun Orcid yang sesuai (atau sebaliknya) tapi tetap peran atribut sama. Meme it
Login
ERDDAP™ tidak lagi mendukung opsi otentikasi terbuka, yang didasarkan pada versi terbuka Login Silahkan gunakan opsi google, orcid, atau oauth2.
Login
ERDDAP™ tidak mendukung otentikasi BASIC karena:
- BASIC tampaknya diarahkan ke halaman web yang telah ditentukan membutuhkan akses yang aman atau akses selimut di / off ke seluruh situs, tetapi ERDDAP™ Sitemap (akses terbatas) dataset untuk ditambahkan pada-the-fly.
- otentikasi BASIC tidak menawarkan cara bagi pengguna untuk masuk!
- otentikasi BASIC diketahui tidak aman.
Database
Jika set data harus memiliki akses terbatas ke ERDDAP™ pengguna, sumber data (di mana ERDDAP™ Login) tidak dapat diakses secara publik. Jadi bagaimana bisa ERDDAP™ mendapatkan data untuk membatasi dataset akses? Beberapa pilihan adalah:
- ERDDAP™ dapat melayani data dari file lokal (misalnya, melalui EDDTable Sitemap EDDGrid Login) Sitemap
- ERDDAP™ Sitemap Login dan sumber data (Sitemap OPeNDAP server atau database) bisa di belakang Login Di mana dapat diakses ERDDAP™ tapi tidak ke publik. Meme it
- Sumber data dapat ada di situs publik, tetapi memerlukan login untuk mendapatkan data. Dua jenis dataset yang ERDDAP™ dapat masuk ke akses Login Login Login Sitemap Dukungan dataset ini (dan harus selalu menggunakan) nama pengguna (Sitemap ERDDAP™ pengguna yang hanya memiliki hak istimewa yang membaca) , password, koneksi SSL, dan langkah-langkah keamanan lainnya.
Tapi secara umum, saat ini, ERDDAP™ tidak dapat menangani sumber data ini karena tidak memiliki ketentuan untuk masuk ke sumber data. Inilah alasan mengapa akses ke EDDGrid DariErddap dan EDDTable Login dataset tidak dapat dibatasi. Saat ini, penduduk setempat ERDDAP™ tidak memiliki cara untuk login dan mengakses informasi metadata dari remote ERDDAP Sitemap Dan menempatkan "remote" ERDDAP™ di balik firewall Anda dan menghapus dataset yang dapat diakses Untuk pembatasan tidak memecahkan masalah: karena permintaan pengguna untuk EDDXxx Dari data Erddap perlu diarahkan ke remote ERDDAP™ , jarak jauh ERDDAP™ harus dapat diakses.
Pertahanan Hacker Sekali Lagi
Ada peretas pria yang buruk yang mencoba untuk mengeksploitasi kelemahan keamanan dalam perangkat lunak server seperti ERDDAP Sitemap ERDDAP™ mengikuti saran keamanan umum untuk memiliki beberapa lapisan pertahanan:
- Privileges yang dibatasi -- Salah satu pertahanan yang paling penting adalah menjalankan Tomcat melalui pengguna yang disebut tomcat yang tidak memiliki kata sandi (jadi tidak ada yang bisa masuk sebagai pengguna Meme it) dan memiliki hak istimewa sistem file terbatas (e.g., akses langsung ke data) Sitemap Sitemap ERDDAP 's instruksi untuk Login Sitemap
- Penggunaan Berat - Secara umum ERDDAP™ dibangun untuk penggunaan berat, termasuk oleh skrip yang membuat puluhan ribu permintaan, satu setelah yang lain. Sulit ERDDAP™ untuk secara bersamaan membuka diri untuk penggunaan dan perisai yang sah berat itu sendiri dari penyalahgunaan. kadang-kadang sulit untuk membedakan penggunaan yang sah berat, penggunaan yang berlebihan sah, dan penggunaan illegitimate (dan kadang-kadang sangat mudah) Sitemap Di antara pertahanan lain, ERDDAP™ secara sadar tidak memungkinkan permintaan tunggal untuk menggunakan fraksi inordinat dari sumber daya sistem (kecuali sistem tidak aktif) Sitemap
- Identify Troublesome Pengguna - Jika ERDDAP™ memperlambat atau membekukan (mungkin karena pengguna naif atau bot menjalankan beberapa skrip untuk mengirimkan beberapa permintaan secara bersamaan atau mungkin karena seorang pria yang buruk Sitemap Login) Anda dapat melihat Sitemap (dan informasi yang lebih identik di ERDDAP™ Login ) yang menampilkan jumlah permintaan yang dibuat oleh pengguna yang paling aktif (Lihat alamat IP Requester (Sitemap) Sitemap) Sitemap ERDDAP™ juga mengirim email ke administrator setiap kali ada Meme it "Kegiatan tidak biasa: > 25% permintaan gagal" Sitemap Anda kemudian dapat melihat Meme it ERDDAP™ file log untuk melihat sifat permintaan mereka. Jika Anda merasa bahwa seseorang membuat terlalu banyak permintaan, permintaan aneh (Anda tidak akan percaya apa yang saya lihat, baik, mungkin Anda Meme it) , atau permintaan tipe serangan, Anda dapat menambahkan alamat IP mereka ke daftar hitam.
- Login Anda dapat menambahkan alamat IP pengguna yang bermasalah, bot, dan Sitemap penyerang ke ERDDAP Login , sehingga permintaan masa depan dari mereka akan segera ditolak. Pengaturan ini ada datasets.xml sehingga Anda dapat dengan cepat menambahkan alamat IP ke daftar dan kemudian Meme it Login dataset sehingga ERDDAP™ segera melihat dan menerapkan perubahan. Pesan kesalahan yang dikirim ke pengguna daftar hitam mendorong mereka untuk menghubungi ERDDAP™ administrator jika mereka merasa mereka telah salah menempatkan pada daftar hitam. (Dalam pengalaman kami, beberapa pengguna telah menyadari bahwa mereka menjalankan beberapa skrip secara bersamaan, atau skrip mereka membuat permintaan nonsense.)
- Keamanan Dataset - Beberapa jenis dataset (Sitemap) memberikan risiko keamanan tambahan (e.g., SQL injeksi) dan memiliki langkah-langkah keamanan mereka sendiri. Lihat informasi untuk jenis dataset tersebut Bekerja dengan datasets.xml Login Sitemap EDDTableDari Database keamanan Sitemap
- Audit Keamanan -- Login NOAA Keamanan TI menolak permintaan pemindaian selama bertahun-tahun, mereka sekarang secara rutin memindai saya (Login) ERDDAP™ Login Meskipun pemindaian awal menemukan beberapa masalah yang saya tetapkan, pemindaian berikutnya tidak menemukan masalah dengan ERDDAP Sitemap Pemindaian khawatir tentang banyak hal: tidak dapat, karena tabledap permintaan terlihat seperti permintaan SQL, mereka khawatir tentang kerentanan injeksi SQL. Tetapi masalah-masalah tersebut tidak berdasar karena Meme it ERDDAP™ selalu parses dan memvalidasi kueri dan kemudian secara terpisah membangun query SQL dengan cara yang menghindari kerentanan injeksi. Hal lain mereka kadang-kadang mengeluh tentang adalah bahwa kita Java versi atau versi Tomcat tidak seperti up-to-date karena mereka ingin, jadi kami memperbaruinya dalam menanggapi. Saya sebelumnya ditawarkan untuk menunjukkan laporan keamanan, tapi saya sekarang mengatakan saya tidak bisa melakukannya.
Pertanyaan? Saran?
Jika Anda memiliki pertanyaan tentang ERDDAP 'Sistem keamanan atau memiliki pertanyaan, keraguan, kekhawatiran, atau saran tentang bagaimana diatur, lihat kami bagian untuk mendapatkan dukungan tambahan Sitemap
Hal yang Anda Tidak Perlu Tahu
Ini adalah rincian bahwa Anda tidak perlu tahu sampai kebutuhan muncul.
Sitemap ERDDAP™
- Menyiapkan Kedua ERDDAP™ untuk Pengujian / Pengembangan
Jika Anda ingin melakukan ini, ada dua pendekatan: - (Login) Menginstal Tomcat dan ERDDAP™ di komputer selain komputer yang memiliki publik Anda ERDDAP Sitemap Jika Anda menggunakan komputer pribadi Anda:
- Lakukan satu langkah instalasi pada satu waktu. Dapatkan Tomcat dan berjalan terlebih dahulu. Ketika Tomcat berjalan, Tomcat Manager harus berada di http://127.0.0.1:8080/manager/html/ (atau mungkin http://localhost:8080/manager/html/ )
- Login ERDDAP Sitemap
- Jangan gunakan ProxyPass untuk menghilangkan nomor port dari ERDDAP™ URL
- Sitemap WordPress.org set baseUrl kehttp://127.0.0.1:8080
- Setelah Anda memulai ini ERDDAP™ Anda harus dapat melihatnya di Meme it http://127.0.0.1:8080/erddap/status.html (atau mungkin http://localhost:8080/erddap/status.html )
Login
- (Terbaik Kedua) Instal Tomcat lain di komputer yang sama seperti publik Anda ERDDAP Sitemap
- Lakukan satu langkah instalasi pada satu waktu. Dapatkan Tomcat dan berjalan terlebih dahulu. Mengubah semua nomor port yang terkait dengan Tomcat kedua (g., ubah 8080 hingga 8081) (Login Beberapa Tomcat Bagian Instances setengah arah melalui dokumen itu) Sitemap
- Login ERDDAP™ di Tomcat baru.
- Jangan gunakan ProxyPass untuk menghilangkan nomor port dari ERDDAP™ URL
- Sitemap WordPress.org set baseUrl kehttp://www.yourDomainName:8081
- Setelah Anda memulai ini ERDDAP™ Anda harus dapat melihatnya di Meme it
http://www.*yourDomainName*:8081/erddap/status.html
Drive Negara Padat
- Drive Negara Padat (Login) bagus!
Cara tercepat, termudah, dan termurah untuk mempercepat ERDDAP 's akses ke data tabel adalah untuk menempatkan file data pada Solid State Drive (Login) Sitemap Sebagian besar set data tabel relatif kecil, sehingga SSD 1 atau 2 TB mungkin cukup untuk menahan semua file data untuk semua set data tabel Anda. SSD akhirnya memakai apakah Anda menulis data ke sel, menghapusnya, dan menulis data baru ke sel itu terlalu banyak kali. Jadi jika Anda hanya menggunakan SSD Anda untuk menulis data sekali dan membaca banyak kali, bahkan SSD kelas konsumen harus bertahan lama, mungkin jauh lebih lama dari hard Disk Drive (Login) Sitemap SSD kelas konsumen sekarang murah (di 2018, ~ $ 200 untuk 1 TB atau ~ $ 400 untuk 2 TB) dan harga masih jatuh cepat. Sitemap ERDDAP™ mengakses file data, SSD menawarkan latency yang lebih pendek (0.1ms, versus ~ 3ms untuk HDD, versus ~ 10 (Sitemap) ms untuk RAID, versus ~ 55ms untuk Amazon S3) dan throughput lebih tinggi (500 MB / S, versus ~ 75 MB / s untuk HDD, versus ~ 500 MB / s untuk RAID) Sitemap Jadi Anda bisa mendapatkan dorongan kinerja yang besar (hingga 10X versus HDD) di $200! Dibandingkan dengan sebagian besar perubahan yang mungkin untuk sistem Anda (server baru untuk $ 10.000? RAID baru untuk $ 35,000? switch jaringan baru untuk $ 5000? Sitemap) , ini sejauh pengembalian investasi terbaik (Login) Sitemap Jika / ketika SSD mati (di 1, 2, ... 8 tahun) , gantinya. Jangan mengandalkannya untuk jangka panjang, penyimpanan arsip data, hanya untuk salinan front-end data. \[ SSD akan sangat bagus untuk data gridded, juga, tetapi kebanyakan dataset gridded jauh lebih besar, membuat SSD sangat mahal. \]
Jika server Anda tidak dimuat dengan memori, memori tambahan untuk server Anda juga merupakan cara yang bagus dan relatif murah untuk mempercepat semua aspek ERDDAP Sitemap
Beban Berat / Kontras **
Dengan penggunaan berat, berdiri sendiri ERDDAP™ mungkin dibatasi oleh berbagai masalah. Untuk informasi lebih lanjut, lihat daftar kendala dan solusi Sitemap
Jaringan, Cluster, dan Federasi
Di bawah penggunaan yang sangat berat, satu standalone ERDDAP™ akan berjalan menjadi salah satu atau lebih kendala dan bahkan solusi yang disarankan tidak mencukupi. Untuk situasi seperti itu, ERDDAP™ memiliki fitur yang memudahkan membangun grid yang dapat diukur (juga disebut cluster atau federasi) Login ERDDAP yang memungkinkan sistem untuk menangani penggunaan yang sangat berat (e.g., untuk pusat data besar) Sitemap Untuk informasi lebih lanjut, lihat grid, cluster, dan federasi ERDDAP Login Sitemap
Login
Beberapa perusahaan mulai menawarkan layanan komputasi cloud (Login Layanan Web Amazon ) Sitemap Web hosting perusahaan telah menawarkan layanan yang lebih sederhana karena layanan mid-1990, tetapi layanan "cloud" telah sangat memperluas fleksibilitas sistem dan berbagai layanan yang ditawarkan. Anda dapat menggunakan layanan ini untuk mengatur satu ERDDAP™ atau grid / kluster ERDDAP s untuk menangani penggunaan yang sangat berat. Untuk informasi lebih lanjut, lihat komputasi cloud dengan ERDDAP™ Sitemap
Login
- ** Layanan Web Amazon (Login) Ikhtisar Instalasi EC2 **
Layanan Web Amazon (Login) Sitemap layanan komputasi cloud yang menawarkan berbagai infrastruktur komputer yang dapat Anda sewakan per jam. Anda dapat menginstal ERDDAP™ Sitemap Awan Compute Elastis (Login) Sitemap (nama mereka untuk komputer yang dapat Anda sewa oleh jam) Sitemap AWS memiliki sangat baik Panduan Pengguna AWS dan Anda dapat menggunakan Google untuk menemukan jawaban atas pertanyaan tertentu yang mungkin Anda miliki. Brace sendiri -- itu adalah jumlah kerja yang adil untuk memulai. Tapi setelah Anda mendapatkan satu server dan berjalan, Anda dapat dengan mudah menyewakan banyak sumber daya tambahan (server, database, SSD-space, dll.) Anda perlu, dengan harga yang wajar. \[ Ini bukan rekomendasi atau dukungan Layanan Web Amazon. Ada penyedia cloud lainnya. \]
Gambaran keseluruhan hal yang perlu Anda lakukan untuk mendapatkan ERDDAP™ berjalan di AWS adalah:
- Secara umum, Anda akan melakukan semua hal yang dijelaskan dalam Panduan Pengguna AWS Sitemap
- Mengatur akun AWS.
- Mengatur pengguna AWS dalam akun tersebut dengan hak istimewa administrator. Masuk sebagai pengguna ini untuk melakukan semua langkah-langkah berikut.
- Penyimpanan Blok Elastis (Login) adalah setara AWS dari hard drive yang melekat pada server Anda. Beberapa ruang EBS akan dialokasikan ketika Anda pertama kali membuat instance EC2. Penyimpanan terus-menerus - informasi tidak hilang ketika Anda menghentikan instance EC2 Anda. Dan jika Anda mengubah jenis instance, ruang EBS Anda secara otomatis terlampir ke instance baru.
- Buat alamat IP elastis sehingga instance EC2 Anda memiliki URL yang stabil, publik (bertentangan dengan hanya URL pribadi yang berubah setiap kali Anda restart instance Anda) Sitemap
- Membuat dan memulai instance EC2 (Login) Sitemap Ada berbagai macam jenis contoh , masing-masing dengan harga yang berbeda. Contoh m4.besar atau m4.xlarge kuat dan mungkin cocok untuk sebagian besar kegunaan, tetapi pilih apa pun yang memenuhi kebutuhan Anda. Anda mungkin ingin menggunakan Amazon Linux sebagai sistem operasi.
- Jika komputer desktop/laptop Anda adalah komputer Windows, Anda dapat menggunakan Login Klien SSH gratis untuk Windows, untuk mendapatkan akses ke baris perintah EC2 Anda. Atau, Anda mungkin memiliki beberapa program SSH lainnya yang Anda sukai.
- Ketika Anda masuk ke instance EC2 Anda, Anda akan login sebagai pengguna administratif dengan nama pengguna "ec2-user". ec2-user memiliki hak istimewa sudo. Jadi, ketika Anda perlu melakukan sesuatu sebagai pengguna akar, gunakan: sudo Login
- Jika komputer desktop/laptop Anda adalah komputer Windows, Anda dapat menggunakan Login Program SFTP gratis, untuk mentransfer file ke / dari instance EC2 Anda. Atau, Anda mungkin memiliki beberapa program SFTP lain yang Anda sukai.
- Instal Apache pada instance EC2 Anda.
- Ikuti standar ERDDAP™ instruksi instalasi Sitemap
Login
Pengguna mungkin mendapatkan pesan kesalahan seperti Meme it
Login
Ada (sementara?) Sitemap Tunggu satu menit, lalu coba lagi. (Di browser, klik tombol Reload.)
Detail: GridDataAccessor.increment: parsial \[ Sitemap \] ="123542730" diharapkan menjadi "123532800".
Penjelasan umum dari WaitThenTryAgainException adalah: Sitemap ERDDAP™ menanggapi permintaan pengguna, mungkin ada kesalahan yang tidak terduga dengan dataset (e.g., kesalahan saat membaca data dari file, atau kesalahan mengakses dataset jarak jauh) Sitemap Sinyal WaitThenTryAgain untuk ERDDAP™ bahwa permintaan gagal (Sitemap) tapi ERDDAP™ harus mencoba untuk memuat ulang dataset dengan cepat (panggilan Login ) dan mencoba permintaan. Seringkali, ini berhasil, dan pengguna hanya melihat bahwa tanggapan atas permintaan lambat. Kali-waktu lain, reload gagal atau terlalu lambat, atau upaya berikutnya untuk menghadapi permintaan juga gagal dan membuang WaitThenTryAgain lain. Jika terjadi, ERDDAP™ menandai dataset untuk memuat ulang tetapi memberitahu pengguna (melalui pengecualian WaitThenTryAgain) bahwa ada kegagalan sambil menanggapi permintaan. Meme it
Itu adalah perilaku normal. Sistem ini dapat menangani banyak masalah umum. Tetapi dimungkinkan untuk sistem ini untuk dipicu secara berlebihan. Penyebab paling umum adalah ERDDAP pemuatan dataset tidak melihat masalah, tetapi ERDDAP respon atas permintaan data tidak melihat masalah. Tidak peduli apa penyebabnya, solusinya adalah untuk Anda berurusan dengan apa pun yang salah dengan dataset. Lihat log.txt untuk melihat pesan kesalahan dan kesepakatan yang sebenarnya dengan masalah. Jika banyak file memiliki header yang valid tetapi data yang tidak valid (file yang rusak) , ganti file dengan file yang tidak rusak. Jika koneksi ke RAID adalah flakey, memperbaikinya. Jika koneksi ke layanan jarak jauh flakey, temukan cara untuk membuatnya tidak flakey atau mengunduh semua file dari sumber jarak jauh dan melayani data dari file lokal.
Penjelasan rinci tentang kesalahan tertentu (Sitemap) Sitemap Untuk setiap EDDGrid Login ERDDAP™ menjaga nilai variabel sumbu dalam memori. Mereka digunakan, misalnya, untuk mengkonversi nilai sumbu yang diminta yang menggunakan " () "format ke nomor indeks. Misalnya, jika nilai sumbu "10, 15, 20, 25", permintaan (20 g) akan ditafsirkan sebagai permintaan indeks #2 (indeks berbasis 0) Sitemap Sitemap ERDDAP™ mendapat permintaan data dan mendapatkan data dari sumber, itu memverifikasi bahwa nilai sumbu yang diperoleh dari sumber sesuai dengan nilai sumbu dalam memori. Biasanya, mereka melakukannya. Tapi kadang-kadang sumber data telah berubah dengan cara yang signifikan: misalnya, nilai indeks dari awal variabel sumbu dapat dihapus (e.g., "10, 15, 20, 25" mungkin telah menjadi "20, 25, 30") Sitemap Jika terjadi, jelas bahwa Meme it ERDDAP Penafsiran atas permintaan (Sitemap (20 g) " adalah indeks #2) sekarang salah. Login ERDDAP™ membuang pengecualian dan panggilan RequestReloadASAP. ERDDAP™ akan memperbarui dataset segera (sering dalam beberapa detik, biasanya dalam satu menit) Sitemap Masalah lain yang serupa juga membuang pengecualian WaitThenTryAgain.
Login
Anda dapat melihat RequestReloadASAP dalam file log.txt tepat setelah pesan kesalahan dan sering di dekat Login Sitemap Ini pada dasarnya adalah cara internal, programmatik untuk ERDDAP™ untuk mengatur Login untuk sinyal bahwa dataset harus diisi ulang ASAP.
File Tidak Dihapus
Untuk beberapa ERDDAP™ instalasi, ada masalah dengan beberapa file sementara yang diciptakan oleh ERDDAP™ tetap terbuka (Sitemap) dan dengan demikian tidak dihapus. Dalam beberapa kasus, banyak file ini telah mengumpulkan dan mengambil jumlah ruang disk yang signifikan.
Mudah-mudahan, masalah ini tetap (Sitemap ERDDAP™ g) Sitemap Jika Anda melihat masalah ini, silakan email direktori+ nama file offending ke Chris. John di noaaa.gov. Anda memiliki beberapa pilihan untuk berurusan dengan masalah:
- Jika file tidak besar dan tidak menyebabkan Anda untuk menjalankan ruang disk, Anda dapat mengabaikan masalah.
- Solusi paling sederhana adalah mematikan tomcat/ ERDDAP™ (setelah jam sehingga pengguna yang lebih sedikit dipengaruhi) Sitemap Selama shutdown, jika sistem operasi tidak menghapus file, menghapusnya dengan tangan. Kemudian restart ERDDAP Sitemap
Login
- ** Semantic Markup Dataset dengan json-ld (Login Database) **
ERDDAP™ Sitemap Login (Login Database) untuk membuat katalog data dan bagian dataset Anda web semantik , yang merupakan ide Tim Berners-Lee untuk membuat konten web lebih mudah dibaca dan mesin "tertahan". Penggunaan konten json-ld Login syarat dan definisi. mesin pencari ( Google khususnya ) dan alat semantik lainnya dapat menggunakan markup terstruktur ini untuk memudahkan penemuan dan mengindeks. Penandaan terstruktur json-ld muncul sebagai tak terlihat-ke-humans<Login kode padahttps://.../erddap/info/index.htmlSitemap (yang merupakan web semantik Catalog ) dan masing-masinghttps://.../erddap/info/datasetID/index.htmlSitemap (yang merupakan web semantik Login ) Sitemap (Terima kasih khusus kepada Adam Leadbetter dan Rob Fuller dari Marine Institute di Irlandia untuk melakukan bagian keras dari pekerjaan untuk membuat bagian ini dari ERDDAP Sitemap)
URL
Slowly tapi pasti, URL yang penyedia data telah ditulis ke dalam file data menjadi out-of-date (Sitemap http Sitemap https , situs web diatur ulang, dan organisasi seperti NODC / NGDC / NCDC diatur ke NCEI) Sitemap Hasil tautan yang rusak adalah masalah yang pernah dihadapi oleh semua situs web. Berurusan dengan ini, ERDDAP™ sekarang memiliki sistem untuk secara otomatis memperbarui URL terbaru. Sitemap Xml melihat URL kedaluwarsa, menambahkan URL terkini ke< addAttributes Sitemap Juga, ketika beban dataset, jika ERDDAP™ melihat URL kedaluwarsa, secara diam-diam mengubahnya ke URL terbaru. Perubahan dikontrol oleh serangkaian pencarian-untuk/ganti-dengan pasangan yang didefinisikan<Login Sitemap ERDDAP Sitemap \[ Login \] /webapps/erddap/WEB-INF/classes/gov/noa/pfel/erddap/util/messages.xml file. Anda dapat melakukan perubahan di sana. Jika Anda memiliki saran untuk perubahan, atau jika Anda berpikir ini harus berubah menjadi layanan (seperti Konverter) Email Chris. John di noaaa.gov.
Login
- Login ( Berbagi Sumber Daya Lintas-Origin )
"ada mekanisme yang memungkinkan sumber daya terbatas (Sitemap ERDDAP™ Sitemap) di halaman web yang diminta dari domain lain di luar domain dari mana sumber daya pertama disajikan" (Arun Ranganathan) Sitemap Pada dasarnya, CORS adalah pesan yang dapat dimasukkan ke dalam header HTTP respon, mengatakan pada dasarnya, "baik saja dengan situs ini jika situs lain tertentu (yang spesifik, atau semua) ambil sumber daya (Sitemap) dari situs ini dan membuatnya tersedia di situs mereka. Jadi, itu adalah alternatif untuk Meme it Login Sitemap
Para pengembang ERDDAP™ tidak mengklaim sebagai ahli keamanan. Kami tidak sepenuhnya jelas tentang masalah keamanan yang berkaitan dengan CORS. Kami tidak ingin membuat pernyataan yang membahayakan keamanan. Jadi kita hanya akan tetap netral dan meninggalkannya ke setiap Meme it ERDDAP™ admin untuk memutuskan apakah manfaat atau mengaktifkan header CORS bernilai risiko. Seperti biasa, jika Anda ERDDAP™ memiliki dataset pribadi, itu adalah ide yang baik untuk berhati-hati ekstra tentang keamanan.
Jika Anda ingin mengaktifkan CORS untuk Anda ERDDAP™ , ada instruksi yang tersedia menjelaskan bagaimana administrator situs web dapat mengaktifkan header CORS melalui perangkat lunak server tingkat bawah mereka (Login Apache atau nginx) Sitemap
Login
- Palet digunakan oleh ERDDAP™ untuk mengubah berbagai nilai data menjadi berbagai warna ketika membuat grafik dan peta.
Setiap palet didefinisikan dalam file palet .cpt-style yang digunakan oleh Login Sitemap Sitemap ERDDAP™ .cpt file valid GMT .cpt file, tapi sebaliknya tidak benar. Untuk digunakan ERDDAP™ file .cpt memiliki:
- Garis komentar opsional pada awal file, dimulai dengan "#".
- Bagian utama dengan deskripsi segmen palet, satu segmen per garis. Setiap lini deskripsi segmen memiliki nilai 8: Sitemap Nilai, startRed, mulai Hijau, mulai Biru, endValue, endRed, endGreen, endBlue. Ada sejumlah segmen. ERDDAP™ menggunakan interpolasi linier antara startRed / Hijau / Biru dan endRed / Hijau / Biru dari setiap segmen.
Kami merekomendasikan bahwa setiap segmen menentukan warna awal dan akhir yang berbeda, dan bahwa warna awal setiap segmen sama dengan warna akhir segmen sebelumnya, sehingga palet menggambarkan campuran warna terus menerus. ERDDAP™ memiliki sistem untuk membuat on-the-fly palet warna diskrit dari palet dengan campuran terus menerus warna. Login ERDDAP™ pengguna dapat menentukan apakah mereka ingin palet untuk terus menerus (asli) atau Diskrit (berasal dari aslinya) Sitemap Tapi ada alasan yang sah untuk tidak mengikuti rekomendasi ini untuk beberapa palet.
- StartValue dan endValues harus masuk. Segmen pertama harus memiliki startValue=0 dan endValue=1. Segmen kedua harus memiliki startValue=1 dan endValue=2. Sitemap
- Nilai merah, hijau, dan biru harus masuk dari 0 (Login) ... 255 (Sitemap) Sitemap
- Akhir dari file harus memiliki 3 baris dengan:
- Warna rgb latar belakang untuk nilai data kurang dari bar warna minimum, misalnya: B 128 128 128 Ini sering startRed, startGreen, dan startBlue dari segmen pertama.
- Warna rgb foreground untuk nilai data lebih dari bar warna maksimum, misalnya: F 128 0 Ini sering endRed, endGreen, dan endBlue dari segmen terakhir.
- Warna rgb untuk nilai data NaN, misalnya, N 128 128 128 Ini sering abu-abu tengah (128 g) Sitemap
- Nilai pada setiap baris harus dipisahkan oleh tab, tanpa ruang yang luar biasa.
Contoh file .cpt adalah BlueWhiteRed.cpt:
g Ini adalah BlueWhiteRed.cpt. 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 255 255 2 0 255 255 3 255 255 255 3 255 255 255 4 255 255 0 4 255 255 0 5 255 0 0 0 0 0 0 0 0 0 0 0 0 G 0 0 0 G 1 0 0 N 128 128 128
Lihat file .cpt yang ada untuk contoh lain. Jika ada masalah dengan file .cpt, ERDDAP™ mungkin akan membuang kesalahan ketika file .cpt parsed (yang lebih baik dari penyalahgunaan informasi) Sitemap
Anda dapat menambahkan palet tambahan untuk ERDDAP Sitemap Anda dapat membuat mereka sendiri atau menemukan mereka di web (misalnya, pada Login ) meskipun Anda mungkin harus mengedit format mereka sedikit sesuai dengan Meme it ERDDAP Persyaratan .cpt. Sitemap ERDDAP™ untuk menggunakan file .cpt baru, menyimpan file di Login /webapps/erddap/WEB-INF/cptfiles (Anda harus melakukan itu untuk setiap versi baru dari ERDDAP ) dan keduanya:
- Jika Anda menggunakan pesan default.xml file: tambahkan nama file ke<palet> tag dalam Login /webapps/erddap/WEB-INF/classes/gov/noa/pfel/erddap/util/messages.xml. Jika Anda melakukan ini, Anda perlu melakukannya setiap kali Anda meningkatkan ERDDAP Sitemap
- Jika Anda menggunakan pesan kustom.xml file: tambahkan nama file ke<palet> tag dalam pesan kustom Anda.xml file: Login WordPress.org Jika Anda melakukan ini, Anda hanya perlu melakukannya sekali (tapi ada pekerjaan lain untuk menjaga pesan kustom.xml file) Sitemap
Kemudian restart ERDDAP™ Sitemap ERDDAP™ melihat perubahan. Keuntungan dari pendekatan ini adalah Anda dapat menentukan urutan palet dalam daftar yang disajikan kepada pengguna. Jika Anda menambahkan koleksi, kami mendorong Anda untuk menambahkan awalan dengan penulis awal (Sitemap KT\_ Sitemap) untuk nama setiap palet untuk mengidentifikasi koleksi dan sehingga dapat ada beberapa palet yang akan memiliki nama yang sama.
Jangan menghapus atau mengubah palet standar. Mereka adalah fitur standar dari semua ERDDAP™ Login Jika Anda berpikir palet atau koleksi palet harus disertakan dalam standar ERDDAP™ distribusi karena itu /mereka akan digunakan umum, silakan email mereka ke Chris. John di noaaa.gov.
Login
- Sitemap ERDDAP™ menghasilkan warna di bilah warna?
- Pengguna memilih salah satu yang telah ditentukan Login atau menggunakan default, misalnya, Rainbow. Palet disimpan / didefinisikan dalam file Meja Palet Warna GMT-style.cpt. Sitemap ERDDAP palet yang telah ditentukan memiliki kisaran bilangan bulat sederhana, misalnya, 0 hingga 1 (jika ada satu bagian dalam palet) , atau 0 sampai 4 (jika ada empat bagian dalam palet) Sitemap Setiap segmen dalam file mencakup n ke + 1, mulai pada n=0.
- ERDDAP™ menghasilkan file .cpt baru on-the-fly, dengan menyesali kisaran palet yang ditentukan (g., 0) ke kisaran palet yang diperlukan oleh pengguna (g.) dan kemudian menghasilkan bagian dalam palet baru untuk setiap bagian palet baru (misalnya, skala log dengan centang di 0,1, 0,5, 1, 5, 10, 50 akan memiliki 5 bagian) Sitemap Warna untuk titik akhir setiap bagian dihasilkan dengan menemukan bagian yang relevan dari palet dalam file .cpt, kemudian secara linear mengganggu nilai R, G, dan B. (Itu sama dengan bagaimana GMT menghasilkan warna dari file Meja Warna.) Sistem ini memungkinkan ERDDAP™ untuk memulai dengan palet generik (e.g., Rainbow dengan 8 segmen, dalam rentang total 0 hingga 8) dan membuat palet kustom on-the-fly (e.g., Rainbow kustom, yang peta 0,1 hingga 50 mg / L ke warna pelangi) Sitemap
- ERDDAP™ kemudian menggunakan file .cpt baru untuk menghasilkan warna untuk setiap pixel berwarna yang berbeda di bilah warna (dan kemudian untuk setiap titik data saat merencanakan data pada grafik atau peta) , lagi dengan menemukan bagian yang relevan dari palet dalam file .cpt, kemudian secara linear mencemari nilai R, G, dan B.
Proses ini mungkin tampak sangat rumit. Tetapi memecahkan masalah yang berkaitan dengan skala log yang sulit untuk memecahkan cara lain.
Jadi bagaimana Anda bisa meniru apa ERDDAP™ lakukan? Itu tidak mudah. Pada dasarnya Anda perlu menggandakan proses yang Meme it ERDDAP™ menggunakan. Jika Anda adalah Java programmer, Anda dapat menggunakan yang sama Java kelas ERDDAP™ menggunakan untuk melakukan semua ini: Login /webapps/erddap/WEB-INF/classes/gov/noa/pfel/coastwatch/sgt/CompoundColorMap.java.
Panduan untuk Sistem Distribusi Data
Lebih banyak pendapat umum tentang desain dan evaluasi sistem distribusi data dapat ditemukan Sitemap Sitemap
Login
Sitemap ERDDAP™ instalasi adalah alat baris perintah yang disebut ArsipADataset yang dapat membantu Anda membuat arsip (Sitemap .zip Sitemap .tar .gz Login) dengan bagian atau semua dataset disimpan dalam serangkaian netcdf-3 .nc file data dalam format file yang cocok untuk pengajuan NOAA 's NCEI arsip ( .nc untuk dataset gridded atau .nc Login untuk set data tabel, sebagaimana ditentukan oleh Login NetCDF Template v2.0 ) Sitemap
Login Dataset dapat membuat dua format arsip yang berbeda:
- Format "asli" berikut ini Sitemap , panduan ini untuk Mengumpulkan Data Anda di NCEI dan terkait Praktik untuk Memastikan Integritas Data Sitemap
- Format "BagIt" membuat File Folder Format arsip standar yang dipromosikan oleh Perpustakaan Kongres AS, sebagaimana ditentukan oleh Spesifikasi BagIt v0.97 Sitemap NOAA 's NCEI dapat menstandardisasi file BagIt untuk mengirimkan arsip.
Tidak heran, metadata global dan variabel Login ERDDAP™ mendorong/pertanyaan hampir persis yang sama dalam file CF dan ACDD metadata yang NCEI mendorong/pertanyaan, sehingga semua dataset Anda harus siap untuk dikirim ke NCEI melalui Login Sitemap Login (Alat Pelacakan dan Sumber Daya Lanjutan NCEI untuk Koleksi Arsip) Sitemap
Sitemap (Login ERDDAP™ Login) menggunakan ArsipADataset untuk mengirimkan data ke NCEI, maka Anda (tidak NCEI) akan menentukan ketika mengirimkan chunk data ke NCEI dan apa yang chunk akan, karena Anda akan tahu ketika ada data baru dan bagaimana menentukan bahwa chunk (dan NCEI tidak akan) Sitemap Oleh karena itu, ArsipADataset adalah alat untuk Anda gunakan untuk membuat paket untuk mengirimkan ke NCEI.
Login Dataset mungkin berguna dalam situasi lain, misalnya, untuk ERDDAP™ administrator yang perlu mengkonversi subset dataset (Sitemap ERDDAP ) dari format file asli menjadi satu set .nc file CF sehingga publik ERDDAP™ dapat melayani data dari .nc File CF bukan file asli.
Setelah Anda menyiapkan ERDDAP™ dan menjalankannya (setidaknya satu kali) Anda dapat menemukan dan menggunakan ArsipADataset di Login /webapps/erddap/WEB-INF direktori. Ada skrip shell (ArsipADataset.sh) untuk Linux / Unix dan file batch (Database) untuk Windows.
Pada Windows, pertama kalinya Anda menjalankan ArsipADataset, Anda perlu mengedit ArsipADataset. bat file dengan editor teks untuk mengubah jalan ke java. exe file sehingga Windows dapat menemukan Java Sitemap
Ketika Anda menjalankan ArsipADataset, itu akan meminta Anda serangkaian pertanyaan. Untuk setiap pertanyaan, ketik respons, lalu tekan Enter. Atau tekan ^C untuk keluar program setiap saat.
Atau, Anda dapat menempatkan jawaban atas pertanyaan, untuk memesan, di baris perintah. Untuk melakukan ini, menjalankan program sekali dan mengetik dan menulis jawaban Anda. Kemudian, Anda dapat membuat baris perintah tunggal (dengan jawaban sebagai parameter) yang menjalankan program dan menjawab semua pertanyaan. Gunakan kata default jika Anda ingin menggunakan nilai default untuk parameter yang diberikan. Gunakan "" (dua kutipan ganda) sebagai placeholder untuk string kosong. Menentukan parameter pada baris perintah dapat sangat nyaman, misalnya, jika Anda menggunakan ArsipADataset sekali sebulan untuk menarsipkan sepadan data bulan. Setelah Anda telah menghasilkan baris perintah dengan parameter dan disimpan bahwa dalam catatan Anda atau dalam skrip shell, Anda hanya perlu membuat perubahan kecil setiap bulan untuk membuat arsip bulan itu.
Pertanyaan yang diajukan oleh ArsipADataset memungkinkan Anda untuk:
- Tentukan kemasan file asli atau Bagit. Untuk NCEI, gunakan Bagit.
- Spesifikasi zip atau tar .gz kompresi untuk paket. Untuk NCEI, gunakan tar .gz Sitemap
- Tentukan alamat email kontak untuk arsip ini (READ\_ME.txt) Sitemap
- Tentukan datasetID dataset yang ingin Anda arsip.
- Tentukan variabel data yang ingin Anda arsip (biasanya semua) Sitemap
- Tentukan subset dataset yang ingin Anda arsip. Anda perlu memformat subset dengan cara yang sama Anda akan memformat subset untuk permintaan data, sehingga akan berbeda untuk gridded daripada untuk dataset tabular.
- Untuk dataset gridded, Anda dapat menentukan berbagai nilai dimensi paling kiri, biasanya itu adalah berbagai waktu. ArsipADataset akan membuat permintaan terpisah dan menghasilkan file data terpisah untuk setiap nilai dalam kisaran nilai. Karena dataset gridded biasanya besar, Anda hampir selalu harus menentukan kerabat subset kecil dengan ukuran seluruh dataset. Sitemap \[ (2015-12-01) Sitemap (2015-12-31) \] \[ \] \[ \] \[ \]
- Untuk set data tabel, Anda dapat menentukan koleksi batasan, tetapi seringkali rentang waktu. Karena dataset tabular biasanya kecil, seringkali untuk menentukan tidak ada batasan, sehingga seluruh dataset diarsipkan. Misalnya, & waktu> = 2015-12-01 & waktu<2016-01-01
- Untuk dataset tabular: tentukan daftar terpisah comma 0 atau lebih variabel yang akan menentukan bagaimana data yang diarsipkan lebih lanjut ke file data yang berbeda. Untuk dataset yang memiliki cdm\_data\_type Sitemap | Profil | Login | Catalog Anda harus hampir selalu menentukan variabel yang memiliki cf\_role=timeseries\_id (Login stationID ) atau cf\_role=trajectory\_id atribut. ArsipADataset akan membuat permintaan terpisah dan menghasilkan file data terpisah untuk setiap kombinasi nilai variabel ini, misalnya, untuk setiap stationID Sitemap Untuk semua set data tabular lainnya, Anda mungkin tidak menentukan variabel untuk tujuan ini. Sitemap Jika subset dataset Anda melengkung sangat besar (Datasheet) dan tidak ada variabel yang cocok untuk tujuan ini, maka ArsipADataset tidak dapat digunakan dengan dataset ini. Ini harus jarang.
- Tentukan format file untuk file data yang akan dibuat. Untuk dataset gridded, untuk NCEI, gunakan .nc Sitemap Untuk set data tabel, untuk NCEI, gunakan .nc Login jika itu adalah pilihan; jika tidak menggunakan .nc Sitemap
- Tentukan jenis file pencernaan untuk dibuat untuk setiap file data dan untuk seluruh paket arsip: MD5, SHA-1, atau SHA-256. pencernaan file menyediakan cara untuk klien (Sitemap) untuk menguji apakah file data telah menjadi rusak. Secara tradisional, ini .md5 file tapi sekarang ada pilihan yang lebih baik. Meme it Untuk NCEI, gunakan SHA-256.
Setelah Anda menjawab semua pertanyaan, ArsipADataset akan:
-
Membuat serangkaian permintaan dataset dan tahap file data yang dihasilkan dalam Login Sitemap * datasetID Login* Sitemap Untuk dataset gridded, akan ada file untuk setiap nilai dimensi paling kiri (Sitemap) Sitemap Nama file akan menjadi nilai Meme it (e.g., nilai waktu) Sitemap Untuk set data tabel, akan ada file untuk setiap nilai dari variabel ... (Login) Sitemap Nama file akan menjadi nilai itu. Jika ada lebih dari satu variabel, variabel kiri akan digunakan untuk membuat nama subdirectory, dan variabel paling tepat akan digunakan untuk membuat nama file. Setiap file data harus<2 g (maksimum diperbolehkan oleh .nc versi 3 file) Sitemap
-
Membuat file yang terkait dengan setiap file data dengan pencernaan file data. Misalnya, jika file data adalah 46088 .nc dan jenis pencernaan adalah .sha256, maka file pencernaan akan memiliki nama 46088 .nc .sha256 .
-
Buat file READ\_ME.txt dengan informasi tentang arsip, termasuk daftar semua pengaturan yang Anda tentukan untuk menghasilkan arsip ini.
-
Membuat 3 file dalam Login /ArchiveADataset/ :
- Login .zip Sitemap .tar .gz arsip file bernama * datasetID Login* .zip (Sitemap .tar .gz ) berisi semua file data tahapan dan file pencernaan. File ini mungkin ukuran apa pun, hanya terbatas oleh ruang disk.
- Sebuah file pencernaan untuk file arsip, misalnya, * datasetID Login* .zip .sha256.txt
- Untuk jenis arsip, file teks bernama * datasetID Login* .zip .listOfFiles.txt (Sitemap .tar .gz ) yang daftar semua file di Meme it .zip (Sitemap .tar .gz ) Login
Jika Anda menyiapkan arsip untuk NCEI, ini adalah file yang akan Anda kirim ke NCEI, mungkin melalui Login Sitemap Login (Alat Pelacakan dan Sumber Daya Lanjutan NCEI untuk Koleksi Arsip) Sitemap 5. Hapus semua file yang ditahap sehingga hanya file arsip (Login .zip ) , pencernaan (e.g., .sha256.txt) arsip, dan (Sitemap) .listOfFiles.txt file tetap.
Facebook Twitter Google Plus Pinterest Email Metadata File
Paket arsip ArsipADataset tidak termasuk file metadata ISO 19115.xml untuk dataset. Jika Anda ingin/digunakan untuk mengirimkan file ISO 19115 untuk dataset Anda ke NCEI, Anda dapat mengirimkan file metadata ISO 19115 .xml yang ERDDAP™ dibuat untuk dataset (Login NMFS orang harus mendapatkan file ISO 19115 untuk dataset mereka dari InPort jika ERDDAP™ belum melayani file tersebut) Sitemap
Masalah? Saran? ArsipADataset baru. Jika Anda memiliki masalah atau saran, Lihat kami bagian untuk mendapatkan dukungan tambahan Sitemap