tropicbirdのブログ

備忘録です。

2021-01-01から1年間の記事一覧

KaggleのランキングTOP1000(2021年10月4日時点)を調べてみた

はじめに KaggleのCompetition ランキングのユーザーの属性が気になって調べてみたら、5年前の分析結果(Top-100 Kaggle users by Country)しか見つからなかったので、2021年10月4日時点のCompetitionランキングのTOP1000のユーザーデータをスクレイピング…

AWSとGPUとGCPのGPU(個人利用の場合)

GCPでGPUを何回申請しても、割当1つしか認めてもらえなかったが、AWSなら大きめのGPUの申請が一発で通った。「GCPは法人メインだから個人利用者へのGPUの割当が厳しい」という話をTwitterで見たので、そうなのかもしれないです。試しにGoogleのカスタマーサ…

GCPで立てたVMにGCSの認証を有効にする方法 解決法⇒ ResumableUploadAbortException: 403 Provided scope(s) are not authorized

エラーメッセージ ResumableUploadAbortException: 403 Provided scope(s) are not authorizedが出る原因はVMに対してGCSの認証がうまくできていなかったため。 対処方法は以下の通り。VMのターミナル上で gcloud initとし、 Choose the account you would l…

JupyterLabで「Unexpected error while saving file」や「No space left on device」などのエラーが発生した時の対処方法

課題 GCP の AI Platform で JupyterLabを使っていた際に「Unexpected error while saving file」や「No space left on device」などのポップアップが表示され、JupyterLab上での操作ができなくなりました。 解決方法 原因はメモリかハード容量が足りなくな…

Anaconda環境でgeopandasを使ってshp(シェープ)ファイルを読み込む際に発生するEPSGに関するエラーの対処方法

はじめに Anaconda環境でgeopandasを使ってshp(シェープ)ファイルを読み込む際に、たまに以下のようなエラーメッセージが出てshpファイルを読み込めない場合があります。 CRSError: Invalid projection: EPSG:4326: (Internal Proj Error: proj_create: SQ…

Sen2Corを使って衛星画像Sentinel-2のL1CをL2Aに変換する方法

はじめに フリーで使える中解像度の衛星画像データとして、Sentinel-2(分解能10m~)があります。人工衛星Sentinel-2は2015年6月に打ち上げられ、打ち上げ当初からL1Cというタイプの衛星画像が公開されています。L1Cタイプの衛星画像とは、簡単に言うと生デ…