본문 바로가기

728x90
반응형

프로그래밍&IT

(118)
[파이썬] 웹 스크래핑.4 - CSV 기본 * 시가총액 상위 구하기 (naver > 증권 > 시가총액) url = https://finance.naver.com/sise/sise_market_sum.naver?&page=2 (첫번째 ; https://finance.naver.com/sise/sise_market_sum.naver 이지만, &page =1 해도 동일한 결과 ) 여기선 1~5까지의 페이지만 구하기로 한다. (필요하면 계속 구할수있지만) 종목들과 정보가 있는 table (class는 type_2) 에 있는 항목들을 찾는다 필요없는 정보는 (공백 들) 필터링해서 필요한 정보만 받는다 csv로 저장하기위한 file 준비를 한다. * source import csv import requests from bs4 import BeautifulS..
[파이썬] 웹 스크래핑.3 - BeautifulSoup4 - 2. find_all [+ http 메소드:get,post] BeautifulSoup4 find_all() : 해당 조건에 해당하는 모든 걸 가져오기 태그 , class가 "title"인 것들 가져오기 # 공통 부분 ~ import requests from bs4 import BeautifulSoup url = "https://comic.naver.com/webtoon/weekday" res = requests.get(url) res.raise_for_status() soup = BeautifulSoup(res.text, "lxml") # ~ 공통 부분 ### 목록 가져오기 toons = soup.find_all("a", attrs={"class": "title"}) for toon in toons: print(toon.get_text() ) HTTP method..
[파이썬] 웹 스크래핑.3 - BeautifulSoup4 - 1. 설치 및 기본적인 찾기 User Agent HTTP 요청을 보내는 디바이스와 브라우저 등 사용자 s/w의 식별 정보를 담고 있는 request header의 한 종류. 보통 http 요청 에러 발생시 요청을 보낸 사용자 환경을 알아보기 위해 사용 기본 형태 : User-Agent: / ex) 크롬의 경우 Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.103 Safari/537.36 활용 : User Agent 정보를 기반으로 특정 브라우저에서만 다르게 동작하도록 하거나 할 때 등 BeautifulSoup4 진행 BeautifulSoup4 설치 및 기본 활용 터미널에서 "pip install beautifulsoup4"..
Coding Apple, React 강좌 내용 정리.4 - state 변경 (버튼 기능 개발) 버튼 기능 개발 & 리액트 state 변경하기 먼저 크롬 브라우저에서 이모지 표시 tip 크롬의 주소 입력창에 마우스 오른쪽 버튼 클릭하면 그림 이모티콘이 항목이 나온다. 클릭 이벤트 설정하기 : onClick={ 클릭될 때 실행할 함수 } ={ ()=> {실행할 내용} } state는 그냥 변경이 안 된다. useState 만들 때 만들어둔 함수를 이용한다 let [좋아요, 좋아요변경] = useState(0); // 초기값으로 0 --- 클릭할 경우, 변경 함수를 이용해서 값을 넣는다. {글제목[0]} {좋아요변경(100) } }>👍{좋아요} let [좋아요, 좋아요변경] = useState(0); {글제목[0]} {좋아요변경(100)}}>👍{좋아요} // 만약 값을 1 씩 증가시키려 할 때 {글제목..
Coding Apple, React 강좌 내용 정리.3 - state React에서 state를 쓰는 이유, 방법을 알아보기 데이터를, 변수 (let , var)에 넣거나 state (useState() 이용해서) 에 넣거나 state 만드는 방법 1. import React, {useState} from 'react' - React에 있는 함수를 쓰겠다. useState를 쓰기 위해서 2. useState('저장할 값') * ES6 destructuring 문법 중에서 이 2개 데이터를 변수에 담고 싶으면 var [a, b] = [10, 100]; // var a = 10 , var b = 100 import React, {useState} from 'react' import logo from './logo.svg'; import './App.css'; function ..
[파이썬] 웹 스크래핑.2 - 정규 표현식 (regular expression) 정규 표현식 (Regular expression, 간단히 regexp, regex) 특정한 규칙을 가진 문자열의 집합을 표현하는 데 사용하는 형식 언어 ex) 주민 등록 번호 , 이메일 주소 aa@a.com , IP 주소 체계 등 파이썬 정규표현식 라이브러리 : re comple(패턴) : 패턴 입력 match (문자열) : 주어진 문자열로 확인 group() : 일치하는 문자열 반환 import re p = re.compile('ca.e') # . : 하나의 문자 의미. (ca.e) > care, case 등 # ^ : 문자열의 시작. (^de) > desk, dest 등 # $ : 문자열의 끝. (se$) > base, case 등 m = p.match("case") # print(m.group())..
[파이썬] 웹 스크래핑.1 - requests 웹 스크래핑을 시작해보자. 웹 스크래핑? 웹 페이지에서 내가 원하는 부분만 추려서 가져오는 것 웹 크롤링? 어떤 페이지에서 링크를 따라가면서 모든 내용을 가져오는 것. 웹 페이지를 구성하는 3가지 HTML / CSS / Javs script (JS) => 페이지 : 뼈대 / 꾸미기 / 기능 구현, 실현 HTML (Hyper Text Markup Language) XPath (XML Path Language) 문서의 구조를 통해 경로(Path)위에 지정된 구문을 사용하여 항목을 배치하고 처리하는 방법을 기술하는 언어 HTML내에서 특정 값의 위치/경로를 표현하는 언어. ex) 크롬 브라우저에서 네이버를 들어간 후, 개발자 도구 (F12)를 연다. 특정 위치 확인 후 Copy -> Copy XPath를 누르..
Coding Apple, React 강좌 내용 정리.2- JSX 기본 문법 JSX? src / App.js의 내용을 확인하자 기본적인 javascript 함수가 나오는데 return 함수 내부는 일상적인 html 코드처럼 작성을 하되 특정 문법에 맞춰서 코딩을 한다 이 부분이 JSX. html 의 class를 쓸 수가 없고, className을 사용한다 스타일링 (css ) - import 된 App.css 파일에서 관리를 하게 된다 실제 표시될 부분과 css (스타일링)은 별도로 구분해서 코딩한다. 확인하기 : black-nav라는 이름으로 새로운 div를 만들고, 그에 따른 스타일링을 App.css에 추가한다. 일단 평상시 쓰던 html / css처럼 만든다고 생각하자. 데이터 바인딩 : 왜 리액트를 쓰고, Vuew를 쓰고 하는지에 대한 이유 * 데이터를 html에 표시하는..
Coding Apple, React 강좌 내용 정리. 1 - 개발환경 구성, 설치 프로젝트 구성 React? (React 링크) 여러 자바스크립트 라이브러리 중에서 페이스북에서 개발되어 공개되었다. 개발 환경 구성 개발 툴 / 에디터로서 Visual Studio Code를 받고 설치한다. Visual Studio Code 설치 (VS Code download) React를 학습하기위해서, Node.js를 받아서 설치해야 한다. Node.js 설치 (Node.js download) React 작업할 폴더를 선택 VS Code에서 File -> Open Folder로 선택 React 프로젝트 생성 VS Code에서 Terminal을 열고, nxp 명령어 그리고 생성할 프로젝트 이름 ex) npx create-react-app blog - blog란 프로젝트를 만들겠다. 그러면 아래처럼 진행이 된다. n..
[Visual Studio] 파일 선택하면 솔루션 탐색기에서 자동 이동하는 설정 개발자마다 차이는 있다만, 내가 현재 작성하는 class , 파일의 위치를 솔루션 탐색기에서 바로 보는 게 필요한 개발자도 존재를 한다. 이에 기본 옵션은 꺼져있다만 아래의 위치로 이동해서 설정을 켜 두면 된다 도구 > 옵션 > 프로젝트 및 솔루션 > 일반 > "솔루션 탐색기에서 활성화된 항목 추적" 을 체크하면 된다. 기본적으로 꺼져있기에 사용하는 사람이 적을 수는 있겠다만 알아두면 간혹 유용할 때가 있는 옵션이다.

반응형