ハッシュスクレイピング技術ブログ

AI PoCがデモで停止する理由は、モデルではなくデータ供給チェーンにあります。

AI PoCがデモで停止する理由は、モデルではなくデータ供給チェーンにあります。

"デモはできたけど、運用ができません" 過去1年間、多くの企業がLLM PoCを実施しました。社内文書からチャットボットを作成し、会議録を要約し、レポートの下書きを作成しました。デモは一般的に成功しました。しかし、経営陣に「運用中のAI事例」を示す時になると、ほとんどの場合、同じ地点で立ち往生します。 原因をモデルに求めることが多いです。「より良いモデルを使用すれば」「プロンプトをもっと洗練...

続きを読む →
AIを使用してクローラーを作成する際、どこまで進んでいるか、どこで詰まっているかを確認します。

AIを使用してクローラーを作成する際、どこまで進んでいるか、どこで詰まっているかを確認します。

"ChatGPTに頼めばいいのではないでしょうか?" 最近、データ収集を検討する方々が最もよくする質問です。適切な質問です。ChatGPTやClaudeに「このサイトから商品名と価格を収集するPythonコードを書いて」と頼むと、数分でかなり信頼できるクローラーコードが出てきます。数年前であれば開発者を雇わなければならなかったことです。 ですので、この記事は「AIではできません」という話では...

続きを読む →
ウェブデータの収集、どう始める?手動 복사から収集サービスまで4つの方法比較

ウェブデータの収集、どう始める?手動 복사から収集サービスまで4つの方法比較

画面에는 다 보이는데, 엑셀로 옮기려니 막막할 때 競合他社の価格、商品レビュー、企業リスト、ニュース記事 — ウェブ画面に必要な情報が全て表示されているが、実際に分析しようとするとエクセルに移すのは難しいです。1、2ページならコピーすればいいが、数百ページなら話は別です。 こういったウェブサイトに公開された情報を表形式のデータに移す作業をウェブデータ抽出(ウェブクローリング、ウェブスク...

続きを読む →
クローリング 아웃소싱 도입 절차 - 문의부터 첫 데이터까지, 단계별로 정리했습니다

クローリング 아웃소싱 도입 절차 - 문의부터 첫 데이터까지, 단계별로 정리했습니다

何を準備して問い合わせるべきですか? クローリングの外注を初めて検討する方々が最も迷うポイントは意外にも問い合わせそのものです。"技術が分からないのにどう説明すればいいか"、"何を決めて連絡すればいいか"といった疑問があり、検討が数週間遅れることもあります。 結論から言うと、完璧に準備して問い合わせる必要はありません。 要件は問い合わせ後に一緒に整理するのが一般的であり、そのプロセス自体が導...

続きを読む →
クローリングの定期購読と個別料金を比較すると、1年間の総費用(TCO)で答えが出る。

クローリングの定期購読と個別料金を比較すると、1年間の総費用(TCO)で答えが出る。

月額料金이 비싸 보이는 착시 크롤링 구독제 견적을 처음 받아 보면 대부분 같은 반응이 나옵니다. "개발비 한 번 내는 것보다 비싼데?" 맞습니다. 첫 달만 보면 개별 과금이 거의 항상 쌉니다. 문제는 크롤링 비용이 첫 달로 끝나지 않는다는 점입니다. 데이터를 받는 내내 유지보수가 붙고, 사이트를 추가할 때마다 개발비가 다시 발생합니다. 그래서 과금 방...

続きを読む →
モニタリングは収集ではなく、通知です - 価格や評判データに対応するループを作成します。

モニタリングは収集ではなく、通知です - 価格や評判データに対応するループを作成します。

モニタリングを開始したが、何も起こらない 価格モニタリングであれ評判モニタリングであれ、開始して数週間が経つとこのような状態になる組織があります。データは毎日正確に入ってくるが、そのデータのせいで誰かが動いたことはない状態。最低価格が崩れたが2週間後に知り、評価が低下していたが四半期報告書で初めて見た場合 — モニタリングではなく記録をしていたのです。 原因は大体同じです。データが蓄積される...

続きを読む →
수집한 리뷰에 AI 분석 적용하기 - 감성 분석, 분류, 번역을 통해 VOC를 해석하는 방법

수집한 리뷰에 AI 분석 적용하기 - 감성 분석, 분류, 번역을 통해 VOC를 해석하는 방법

レビュー3万件を集めたが、誰も読まない レビューデータの収集は成功したが、活用でつまずくことが多いです。チャンネルごとに散らばったレビューを自動的に集めるまで進んだが、月に数千〜数万件ずつ積み重なるテキストを読む人がいないのです。結局、担当者はたまに最新のレビュー数ページをざっと見る程度で止まります。 レビューは顧客がお金と時間をかけて残したフィードバック(VOC)です。問題は量です。人間が...

続きを読む →
Excelで受け取るデータ vs ダッシュボードで見るデータ — 納品形式の変更

Excelで受け取るデータ vs ダッシュボードで見るデータ — 納品形式の変更

同じデータでも、どの会社は使い、どの会社は使わない 同じアイテムを、同じサイクルで、同じ品質で収集しても、データの活用度は顧客ごとに大きく異なります。数年運営してみて、違いを生む変数が1つ見つかりました。データをどの形式で受け取るかです。 データが到着する場所が担当者のダウンロードフォルダーか、会社のシステムか、チーム全体が見る画面かによって、同じデータの運命が異なります。この記事はクローリ...

続きを読む →
クローリングしたデータが意思決定に至るまで

クローリングしたデータが意思決定に至るまで

データは蓄積されたが、変わったことがないなら クローリングの問い合わせはほとんどが「このサイトのデータを収集してください」という形で始まります。しかし数ヶ月後に再度話をすると、データは毎日うまく入ってくるものの、組織で実際に活用されないケースが少なくありません。Excelファイルがフォルダに積まれ、開くのは担当者1人だけです。 収集そのものが目的のデータはありません。価格を調整し、製品を改善...

続きを読む →

Get notified of new posts

We'll email you when 해시스크래퍼 기술 블로그 publishes new content.

Your email will only be used for new post notifications.