ハッシュスクレイピング技術ブログ

クローリングデータをデータウェアハウスに統合する――外部Web収集をパイプラインに組み込む視点

クローリングデータをデータウェアハウスに統合する――外部Web収集をパイプラインに組み込む視点

「競合他社データも自社ダッシュボードで見たい」がデータチームに届いたら 社内ソースは安定しています。スキーマは自社で管理し、変更はリリースノートで予告され、失敗しても再処理の手順があります。しかし、経営陣や現場が「競合他社の価格、レビュー、市場データも同じダッシュボードで見たい」と求めた瞬間、管理権限の及ばないソースをパイプラインに接続する問題が生じます。 外部Webのスキーマは自社で所有で...

続きを読む →
外部Webデータはなぜ壊れ続けるのか――サイト刷新時代のデータ契約(Data Contract)

外部Webデータはなぜ壊れ続けるのか――サイト刷新時代のデータ契約(Data Contract)

昨日まで正常だったパイプラインが、今朝は空になっている 社内ソースであれば、このようなことはあまり起こりません。スキーマを変更するには調整があり、カラムを削除する前には予告があり、問題が起きれば責任を負う担当者がいます。しかし、競合他社の価格、レビュー、市場データのように外部Webから取り込むソースは異なります。 ある日、対象サイトがレビュー領域をReactに刷新し、価格表示の位置を移し、ロ...

続きを読む →
大量のウェブデータをリアルタイムで抽出するには、どんなサービスを利用すればいいでしょうか? — まずは「いくらですか」とお答えください。

大量のウェブデータをリアルタイムで抽出するには、どんなサービスを利用すればいいでしょうか? — まずは「いくらですか」とお答えください。

"大量で、リアルタイムに収集してください。" 収集の問い合わせで最もよく受ける文章です。 そしてこの文章には見積もりを出せる情報が一切含まれていません。 パイロットはうまくいったでしょう。何サイト、何日分のデータ、きちんとした結果。 対象を増やし、サイクルを狭めると、ブロックが始まり、収集が遅れ、クローラーの修理が本業になります。 インフラを間違えたわけではありません。始めの段階で「リアルタ...

続きを読む →
ECサイトの価格比較・モニタリング用の収集サービス、どう選ぶ?― "クーポンできますか?" 次の質問で分かれます

ECサイトの価格比較・モニタリング用の収集サービス、どう選ぶ?― "クーポンできますか?" 次の質問で分かれます

"쿠팡이랑 네이버쇼핑도 수집되나요?" 가격 수집 서비스를 알아보는 분들은 열에 아홉이 이 질문부터 던집니다. 문제는, 이 질문으로 업체가 걸러지지 않는다는 것. 대부분 "가능합니다"라고 답하기 때문입니다. 아침마다 두 사이트를 열어 확인하고, 엑셀에 옮기고, 다 옮기면 가격이 또 바뀌어 있는 하루. 경쟁사 가격은 오늘도 세 번 움직였고, 우리 수집은 ...

続きを読む →
ニュース、公示、コミュニティのクローリングを利用して投資リサーチとリスクをモニタリングする方法

ニュース、公示、コミュニティのクローリングを利用して投資リサーチとリスクをモニタリングする方法

アナリスト1人が数百の銘柄の世論をすべて見ることができるか リサーチ組織がカバーする銘柄は通常、数十から数百あります。各銘柄ごとにニュースが1日にも数十件流れ、電子開示や証券コミュニティ、SNSの言及を加えると、人間が目で見るだけでは明らかに限界があります。結局、担当銘柄だけかろうじて追いつき、他は悪材料が既に株価に反映された後に確認することになります。 問題はスピードだけではありません。ど...

続きを読む →
不動産プラットフォームのクローリングを利用して物件や価格動向を分析する方法

不動産プラットフォームのクローリングを利用して物件や価格動向を分析する方法

地域・区域ごとの市価はまだ手作業でまとめていますか? デベロッパーや仲介業者、建材業者は皆、「今この区域の価格が上昇しているのか、下落しているのか」を判断しなければならない瞬間が頻繁にあります。しかし、ほとんどの場合、担当者は複数の不動産プラットフォームを一つずつ開いて地域・区域ごとの物件や価格を目でスキャンし、エクセルに移している方法にとどまっています。 問題は価格が日々変動し、区域数が増...

続きを読む →
Web 데이터를 주기적으로 수집하여 엑셀로 자동 정리하려면 어떤 도구가 좋을까요? — 자동화는 멈추지 않고, 조용히 진행됩니다.

Web 데이터를 주기적으로 수집하여 엑셀로 자동 정리하려면 어떤 도구가 좋을까요? — 자동화는 멈추지 않고, 조용히 진행됩니다.

"定期的に収集してExcelで整理してくれるツール"をお探しのことでしょう。 リストはすぐに出てきます。問題はそのリストがほとんど同じ部分だけを自動化することです。 500以上の企業の収集をサポートし、この自動化の失敗は、予約実行ができなかったために起きることはほとんどありませんでした。 決まった時間に忠実に動いて、何も言わずに間違った値を積み重ねていました。 Excelが届かない場合は月曜...

続きを読む →
ECサイトや海外モールのクローリングを活用して競合製品のベンチマーキングを行う方法

ECサイトや海外モールのクローリングを活用して競合製品のベンチマーキングを行う方法

競合製品調査はまだ担当者が手作業で行っていますか? 新製品を企画する際、競合他社の仕様や価格、構成を確認する作業は欠かせません。問題は、この調査を担当者が複数のショッピングモールを一つずつ開いて仕様表を手作業で移し替え、価格をキャプチャする方法で処理している点です。製品数が数十種類を超えると、一度の調査に数日かかり、調査時点ごとに値が異なり比較基準が揺れます。 海外モールはここに言語の壁が加...

続きを読む →
中古車のプラットフォームをクローリングして市場価格や在庫動向をモニタリングする方法

中古車のプラットフォームをクローリングして市場価格や在庫動向をモニタリングする方法

この車、いくらで仕入れていくらで売るべきでしょうか? 中古車ディーラーが毎日直面する質問です。同じ車種でも年式や走行距離、オプションによって値段が大きく異なるため、その判断は経験から得られる勘に頼ることが多いです。競合ディーラーが昨日いくらで出品したかを確認するには、エンカやKBチャチャチャ、ケーカを1つずつ開いて目で探さなければなりません。 仕入れ価格を誤って設定すると在庫が長く滞るか、逆...

続きを読む →

Get notified of new posts

We'll email you when 해시스크래퍼 기술 블로그 publishes new content.

Your email will only be used for new post notifications.